L'intelligence artificielle consomme trop d'eau : comment contrôler sa soif ?

Les IA consomment trop d'eau : comment contrôler leur soif

Selon une étude, poser entre 10 et 30 questions à ChatGPT (GPT-3) consomme l'équivalent d'une petite bouteille d'eau. Cette eau sert à refroidir les serveurs, qui surchauffent lors des calculs gigantesques qu'ils doivent réaliser pour entraîner et faire fonctionner les grands modèles comme ChatGPT. Des technologies promettent un usage plus raisonnable de cette ressource en réutilisant l'eau pour chauffer des bâtiments, par exemple. Mais le sujet reste moins bien adressé que celui de la consommation électrique de la technologie.

Publié le 04-05-2024 par Marine Protais

Sur le plateau de Saclay (Essonne), le supercalculateur Jean Zay entraîne de grands modèles de langage pour la recherche et les startups de l'IA. Ces programmes d'intelligence artificielle, popularisés avec ChatGPT, sont nourris avec un très grand nombre de données pour produire du texte ou des images à partir d'une simple instruction. Ces calculs nécessitent une grande consommation d'énergie, et créent des îlots de chaleur. Pour éviter la surchauffe, les serveurs de Jean Zay sont refroidis grâce à un réseau d'eau à température ambiante. L'eau circule directement à proximité des composants. Une fois passée par le calculateur, l'eau montée en température sert à chauffer 1.000 logements du plateau de Saclay.

Cette technologie dite de « Direct Water Cooling » a été développée par Eviden, filiale du fleuron du numérique tricolore Atos, par ailleurs en grande difficulté financière. Cette technique, l'entreprise l'élabore depuis une quinzaine d'années pour les supercalculateurs « classiques » qui font de la simulation numérique. Elle vient de mettre sur le marché une technique de DLC adaptée à l'intelligence artificielle (car l'architecture des serveurs n'est pas la même), intégrée à sa nouvelle gamme de serveurs BullSequana AI. « L'autre intérêt de notre technologie de Direct Liquid Cooling, c'est que nous utilisons de l'eau à température ambiante (30-36 degrés contre 12 degrés pour les précédentes), précise Cédric Bourrasset, responsable de l'informatique quantique et de l'IA che

Lire la suite

Voir la suite...

Les dernières actualités