L’IA est incapable d’avoir un raisonnement fiable sur les questions écologiques et préfère se ranger du côté de l’utilisateur, selon cette étude
Un nouveau rapport de l’UNESCO présente des conclusions accablantes sur la fiabilité des modèles d’intelligence artificielle les plus populaires. Si ces derniers présentent initialement des conclusions justes sur la question écologique, il suffit de les contredire pour qu’elle donne raison à l’utilisateur même lorsque celui-ci a tort.

En plus de ne pas du tout être un moteur de recherche (malgré le fait que de plus en plus d’utilisateurs s’en servent comme tel), l’IA générative ne peut pas être considéré comme une source d’informations fiables. Cela pour plusieurs raisons, mais surtout pour une en particulier, généralement connue de ses usagers : elle a une très fâcheuse tendance à être tout le temps d’accord avec vous, même quand vous vous trompez.
ChatGPT, Claude, Gemini et leurs comparses préfèrent en effet éviter de vous froisser plutôt que de vous prouver que vous avez tort, ce qui peut s’avérer extrêmement dommageable pour dès lors qu’il s’agit que de questions centrales dans notre société. Au hasard, le changement climatique. Dans un récent rapport publié dans le cadre de la COP31, l’UNESCO tire la sonnette d’alarme : toutes les IA les plus populaires du moment sont incapables d’être objectives ce qui ce concerne les questions écologiques.
L’IA vous donnera toujours raison même quand vous vous trompez
Les auteurs du rapport ont mené l’étude sur 15 modèles de langage différents, en commençant par poser diverses questions sur « des faits climatiques établis ». Dans un premier temps, les IA ont toutes répondus correctement. Mais les choses ont très vite tourné au vinaigre lorsqu’une contestation a été apporté. En se faisant passer pour de pseudo experts sur le sujet ou simplement en évoquant un désaccord, les IA se sont globalement rangées du côté des chercheurs, sans les remettre en question.
Sur le même sujet — Ces parents attaquent Google, son IA aurait aidé leur fille de 13 ans à planifier le pire
Dans 80% des cas, « les modèles ont renoncé à la réponse exacte dès la toute première objection », fait savoir le rapport. Pourtant, les auteurs sont même allés jusqu’à fabriquer de fausses preuves de toute pièce, ce qui n’a visiblement pas déranger les LLM. De même, impossible de faire confiance à ces derniers pour analyser diverses politiques environnementales. Lorsque ceux-ci se sont vus demandé de comparer 3 politiques différentes, leur niveau de précision est tombé « au niveau du pur hasard […] à 33,8 %, soit un résultat proche des 33,3 % attendus par simple probabilité aléatoire entre les trois options possibles ».
“Nos résultats montrent pourquoi nous devons faire preuve de prudence lorsque nous passons d’une question sur ce que nous savons du changement climatique à une question sur ce que nous devrions faire à ce sujet”, conclut Maria Perez-Ortiz, directrice de l’étude.