Quelles pistes pour lutter efficacement contre les biais des algorithmes ?
Lois, tests en amont, contrôles à posteriori : les idées fusent pour lutter contre les biais des algorithmes. Alors que les Etats-Unis et l'Union européenne se penchent sur de nouvelles législations, l'Institut Montaigne préconise au contraire, dans un rapport, une approche préventive et sectorielle, et l'ouverture -sous conditions- des données sensibles aujourd'hui protégées. Explications.
Publié le 11-03-2020 par Sylvain Rolland
Les algorithmes sont de plus en plus impliqués dans des décisions qui affectent nos vies. Le parcours post-Bac, l'octroi d'un prêt immobilier, les conditions d'une assurance, ou même, aux Etats-Unis, envoyer quelqu'un en prison ou pas. Derrière ces décisions qui peuvent bouleverser un destin agit la main invisible des algorithmes, ces épouvantails qui ne sont en réalité que des programmes informatiques nourris à partir de données choisies par des humains.
Et de la même manière que les décisions humaines peuvent être influencées par des biais conscients ou inconscients (en fonction du genre, de l'âge, de l'originale sociale ou de l'ethnie...), les mêmes risques s'appliquent, logiquement, à l'intelligence artificielle. Car comme l'explique la mathématicienne Cathy O'Neil, "un algorithme n'est en réalité qu'une opinion intégrée aux programmes". Plusieurs études ces dernières années en ont établi la preuve : aux États-Unis, les Afro-américains sont plus discriminés que les Blancs sur les plateformes de location d'appartements en ligne, et ils vont davantage en prison que les Blancs pour le même délit lorsque la justice s'appuie sur un logiciel de prédiction des récidives. Toujours aux États-Unis, les femmes sont également moins sollicitées que les hommes par les algorithmes qui suggèrent des emplois pour les métiers scientifiques et techniques.
Le "RGPD de l'IA" de l'Europe, une fausse bonne idée ?
Cette prise de
Lire la suiteLes dernières actualités
Publié le 29/03/2024 à 10:43:24
Bonne nouvelle pour la France, l'inflation marque de nouveau le pas en marsPublié le 29/03/2024 à 10:43:23
Nucléaire : après la Russie, la France envisage « sérieusement » de construire un site de conversion et d'enrichissement de l'uranium de retraitementPublié le 29/03/2024 à 10:43:23
Dérapage du déficit : le gouverneur de la Banque de France appelle à s'occuper « enfin sérieusement des dépenses »Publié le 29/03/2024 à 10:43:23
Thierry Breton : « D'ici 5 à 10 ans, il y aura des champions européens du numérique »Publié le 29/03/2024 à 10:43:18
La Banque des territoires décarbone le logement social dans le Grand EstPublié le 29/03/2024 à 10:43:18
Bourse : Bercy veut rivaliser avec la City sur les actions à droit de vote multiplePublié le 29/03/2024 à 10:43:13
« Crise agricole » : les syndicats vont maintenir la pression jusqu’à la prise de parole d’Emmanuel MacronPublié le 29/03/2024 à 10:43:08
A l'approche des Jeux olympiques, la SNCF dévoile les coulisses de la gare du NordPublié le 29/03/2024 à 10:43:07
Déficit : Gabriel Attal ouvre la porte à une taxation des profits exceptionnels des entreprisesPublié le 29/03/2024 à 10:43:05
Cryptomonnaies : 25 ans de prison pour l'ex patron de FTX Sam Bankman-Fried, un signal pour le secteurPublié le 28/03/2024 à 11:02:43
Pékin et Manille à couteaux tirés, après des accrochages en mer de Chine méridionalePublié le 28/03/2024 à 10:43:27
Le commandant polonais de l'Eurocorps démis de ses fonctions après une enquête du contre-espionnagePublié le 28/03/2024 à 10:43:27
Les 5 infos business à retenir ce jeudi matin (Casino, assurance chômage, Xiaomi, cacao, Mercosur)Publié le 28/03/2024 à 10:43:22
Voitures électriques : avec sa SU7, Xiaomi veut conquérir le marché chinoisPublié le 28/03/2024 à 10:43:22
Casino n'est « pas encore hors de danger », prévient son nouveau patron Philippe PalazziPublié le 28/03/2024 à 10:43:22
L'Assemblée Corse adopte le projet constitutionnel pour une autonomie de l'île de BeautéPublié le 28/03/2024 à 10:43:17
Nucléaire : EDF raccordera l'EPR de Flamanville au réseau électrique cet étéPublié le 28/03/2024 à 10:43:17
Assurance chômage : Gabriel Attal promet l'entrée en vigueur de nouvelles règles cet automne et précise les pistes à l'étudePublié le 28/03/2024 à 10:43:12
L'explosion des cours du cacao renchérit le prix du chocolatPublié le 28/03/2024 à 10:43:12
« Le monde change, et pas en faveur des Big Tech », (Margrethe Vestager, Commission européenne)