Tech for Good : éthique et business sont-ils compatibles ?

Le sommet Tech for Good de mai dernier et le mouvement AI for Humanity visent à introduire des règles éthiques dans l'usage des technologies émergentes comme l'intelligence artificielle pour éviter dérapages et abus. Même Google a dû rendre public des règles éthiques.

Publié le 13-07-2018 par Patrick Cappelli

Connaissez-vous Norman ? C'est une IA psychopathe, nommée ainsi en référence à Norman Bates, le tueur détraqué du film "Psychose". Elle a été créée par des chercheurs du MIT (Massachusetts Institute of Technology) pour démontrer que "les données utilisées pour l'apprentissage d'un algorithme de 'machine learning' influencent son comportement". Les scientifiques l'ont nourrie de photos et de vidéos parmi les plus dérangeantes du site communautaire Reddit, puis l'ont soumise au test de Rorschach. Et quand une IA normale voit dans ces taches d'encre "un vase avec des fleurs", Norman, lui, distingue "un homme abattu par arme à feu". À la place d'un "couple se faisant face", Norman voit "un homme qui se jette par la fenêtre" !

En 2016, le chatbot Tay de Microsoft, abreuvé de posts Twitter, était passé en quelques heures d'un tweet disant que "les humains sont super cool" à "Hitler avait raison, je déteste les Juifs". Bref, mettre de l'éthique dans les algorithmes, c'est d'abord s'assurer du respect de celle-ci par les hommes derrière la machine. Or, on l'a vu avec le scandale Cambridge Analytica (*), qui a obligé Mark Zuckerberg, fondateur de Facebook, à aller faire acte de contrition devant le Congrès américain puis le Parlement européen, les règles morales ne pèsent souvent pas lourd face aux exigences économiques et politiques.