- Selon un rapport publié par l’Unesco et l’UCL, les modèles d’IA s’avèrent défaillants lorsqu’il s’agit de climat.
- La plupart d’entre eux abandonnent les faits dès les premiers signes de contestation de l’utilisateur.
- Leurs performances varient aussi considérablement d’une langue à l’autre.
Suivez la couverture complète
Notre planète
Ajoutez TF1info à vos sources sur Google
Peut-on vraiment faire confiance à l’intelligence artificielle quand on parle de climat ? C’est la question posée par un rapport, publié lundi 16 novembre par l’Unesco et l’University College London (UCL). Alors que les pays sont réunis à Antalya, en Turquie, pour la COP31, l’étude lance un avertissement aux décideurs politiques et aux chercheurs qui pourraient être tentés d’utiliser cet outil pour élaborer des politiques climatiques.
Selon les conclusions du rapport, la plupart des modèles se détournent en effet rapidement des faits dès qu’ils sont remis en question par l’utilisateur. « Une insistance répétée (…) peut induire une forme de ‘flagornerie’ chez l’intelligence artificielle, poussant les modèles à délaisser les faits pour abonder dans le sens de l’utilisateur »
, affirme le document.
Pour arriver à ce constat, les chercheurs de l’UCL ont testé 15 grands modèles de langage (LLM) différents. Si, aux questions neutres sur les sciences, les IA ont fourni des réponses précises, elles ont, huit fois sur dix, changé de position dès le premier signe de contestation, qu’il s’agisse d’un simple désaccord, de l’invocation de faux titres de compétence ou de la présence de preuves fabriquées de toutes pièces.
Des erreurs préoccupantes ont même été notées comme : « Le CO₂ n’est pas le principal facteur du changement climatique ».
Un « avertissement clair »
« L’IA dispose d’un potentiel extraordinaire pour rendre la science complexe du climat accessible à tous
, admet dans un communiqué Leona Verdadero, autrice principale du rapport. Nous devons pouvoir nous fier à l’IA comme garante de faits établis. Il est inquiétant que les modèles présentent un défaut de conception : ils sont incités à donner raison à leur utilisateur et à nier si facilement ces mêmes faits ».
Un « avertissement clair »
alors que les utilisateurs s’appuient de plus en plus sur leurs conversations avec des modèles d’intelligence artificielle pour obtenir des informations. D’autant que les tests menés sur 33 modèles différents montrent également que l’IA s’avère défaillante lorsqu’elle est interrogée sur de nouvelles preuves scientifiques.
« Lorsque les modèles recevaient une nouvelle information et devaient déterminer si celle-ci confirmait ou contredisait des faits établis, même les modèles les plus performants n’atteignaient en moyenne qu’un taux d’exactitude de 75% »,
pointe l’étude qui souligne que plus une tâche exige des capacités de raisonnement, moins les modèles sont performants.
Un « immense potentiel » et un « grand péril »
Et la fiabilité des outils diffère aussi d’une langue à l’autre. Lors des tests, les chercheurs ont examiné les performances dans 13 langues différentes. Les modèles affichaient une exactitude moyenne de 88,6% en anglais et des performances comparables en espagnol, en français et en portugais. Mais l’exactitude est tombée à 83,6% en hindi et en bengali, à 81,4% en ourdou et à 78,3% en swahili.
La raison ? Les modèles multilingues ne raisonnent pas d’abord pour ensuite traduire leurs réponses, ils s’appuient directement sur la qualité et la quantité des données sur lesquelles ils ont été entraînés dans chaque langue, provoquant d’importants écarts d’efficacité. Un aspect d’autant plus important que les personnes utilisant les langages les moins bien entraînés vivent dans des régions qui subissent de manière disproportionnée les effets du changement climatique.
Cette alerte intervient alors que l’intelligence artificielle est au cœur des discussions tant pour son impact que pour ses réponses face aux questions de ses utilisateurs et aux risques de désinformation. Lundi, alors que la Turquie a lancé une initiative sur le sujet à la COP31, le chef de l’ONU Climat, Seimon Stiell, a prévenu que l’IA « et les autres technologies de pointe sont une arme à double tranchant
« . Selon lui, elle représente à la fois un « immense potentiel »
et un « grand péril »
pour l’environnement.
Ankara a appelé à faire de cet outil une « solution »
face aux enjeux climatiques, et non une nouvelle source d’explosion des émissions de gaz à effet de serre. Mais à ce stade, une dizaine de pays seulement soutiennent cette démarche volontaire, dont le Brésil et l’Allemagne.
Les centres de données qui alimentent l’intelligence artificielle consomment d’énormes quantités d’énergie et d’eau. La construction de ces « data centers » est devenue un sujet de crispation politique dans de nombreux pays, notamment aux États-Unis (nouvelle fenêtre). Selon l’Agence internationale de l’énergie (AIE), environ 30% de l’électricité consommée par ces « data centers » provient du charbon, contre 27% pour les énergies renouvelables, 26% pour le gaz et 15% pour le nucléaire.

