Quelles pistes pour lutter efficacement contre les biais des algorithmes ?

algorithme, intelligence artificielle, avatar, numérique, disparition des emplois, robots, cols blancs, programme informatique, numérisation, digitalisation, déshumanisation, robotique,

Lois, tests en amont, contrôles à posteriori : les idées fusent pour lutter contre les biais des algorithmes. Alors que les Etats-Unis et l'Union européenne se penchent sur de nouvelles législations, l'Institut Montaigne préconise au contraire, dans un rapport, une approche préventive et sectorielle, et l'ouverture -sous conditions- des données sensibles aujourd'hui protégées. Explications.

Publié le 11-03-2020 par Sylvain Rolland

Les algorithmes sont de plus en plus impliqués dans des décisions qui affectent nos vies. Le parcours post-Bac, l'octroi d'un prêt immobilier, les conditions d'une assurance, ou même, aux Etats-Unis, envoyer quelqu'un en prison ou pas. Derrière ces décisions qui peuvent bouleverser un destin agit la main invisible des algorithmes, ces épouvantails qui ne sont en réalité que des programmes informatiques nourris à partir de données choisies par des humains.

Et de la même manière que les décisions humaines peuvent être influencées par des biais conscients ou inconscients (en fonction du genre, de l'âge, de l'originale sociale ou de l'ethnie...), les mêmes risques s'appliquent, logiquement, à l'intelligence artificielle. Car comme l'explique la mathématicienne Cathy O'Neil, "un algorithme n'est en réalité qu'une opinion intégrée aux programmes". Plusieurs études ces dernières années en ont établi la preuve : aux États-Unis, les Afro-américains sont plus discriminés que les Blancs sur les plateformes de location d'appartements en ligne, et ils vont davantage en prison que les Blancs pour le même délit lorsque la justice s'appuie sur un logiciel de prédiction des récidives. Toujours aux États-Unis, les femmes sont également moins sollicitées que les hommes par les algorithmes qui suggèrent des emplois pour les métiers scientifiques et techniques.

Lire aussi : Les biais de l'intelligence artificielle en question

Le "RGPD de l'IA" de l'Europe, une fausse bonne idée ?

Cette prise de

Lire la suite

Voir la suite...

Les dernières actualités