Connaissez-vous Norman ? C'est une IA psychopathe, nommée ainsi en référence à Norman Bates, le tueur détraqué du film "Psychose". Elle a été créée par des chercheurs du MIT (Massachusetts Institute of Technology) pour démontrer que "les données utilisées pour l'apprentissage d'un algorithme de 'machine learning' influencent son comportement". Les scientifiques l'ont nourrie de photos et de vidéos parmi les plus dérangeantes du site communautaire Reddit, puis l'ont soumise au test de Rorschach. Et quand une IA normale voit dans ces taches d'encre "un vase avec des fleurs", Norman, lui, distingue "un homme abattu par arme à feu". À la place d'un "couple se faisant face", Norman voit "un homme qui se jette par la fenêtre" !

En 2016, le chatbot Tay de Microsoft, abreuvé de posts Twitter, était passé en quelques heures d'un tweet disant que "les humains sont super cool" à "Hitler avait raison, je déteste les Juifs". Bref, mettre de l'éthique dans les algorithmes, c'est d'abord s'assurer du respect de celle-ci par les hommes derrière la machine. Or, on l'a vu avec le scandale Cambridge Analytica (*), qui a obligé Mark Zuckerberg, fondateur de Facebook, à aller faire acte de contrition devant le Congrès américain puis le Parlement européen, les règles morales ne pèsent souvent pas lourd face aux exigences économiques et politiques.

Pour un impact positif de l'IA

Le rapport du député mathématicien Cédric Villani sur l'intelligence artificielle propose de créer un comité consultatif

Lire la suite