Le mot « safety », qu'on pourrait traduire en français par « sécurité » ou « sûreté », se trouve dans la bouche de tous les spécialistes de l'IA de la Silicon Valley. Au point que le concept se retrouve au centre de projets entrepreneuriaux et alimente la guerre des talents. Dernier exemple en date : fin juin, un des chercheurs les plus réputés du secteur de l'IA, Ilya Sutskever a présenté son nouveau projet : Safe Superintelligence, une structure qui, comme son nom l'indique, vise à développer une superintelligence sûre, c'est-à-dire sans danger pour l'humanité.

Un mois plus tôt, le scientifique, cofondateur d'OpenAI, avait quitté la startup, où il dirigeait l'équipe de « superalignement », chargée de développer des outils pour contrôler les IA du futur. Ilya Sutskever est une des figures les plus en avant d'une approche américaine (et donc dominante) des risques de l'IA, qui se concentre avant tout sur le risque existentiel.

En clair, elle vise à éviter les scénarios des films de science-fiction à la Terminator, où une intelligence artificielle surpuissante devient hors de contrôle et finit par cause du tort à l'humanité. Bien qu'ils insistent sur la prise en compte de ces risques dans leur discours, les géants de l'IA refusent toutefois, pour l'instant, tout autre approche que l'auto-régulation...

Avec la superintelligence, de nouveaux dangers attendus

« Cette entreprise est spéciale, car son premier produit sera la superintelligence sûre, et elle ne fera rien d'autre jusq