L’IA est incapable d’avoir un raisonnement fiable sur les questions écologiques et préfère se ranger du côté de l’utilisateur, selon cette étude

Un nouveau rapport de l’UNESCO présente des conclusions accablantes sur la fiabilité des modèles d’intelligence artificielle les plus populaires. Si ces derniers présentent initialement des conclusions justes sur la question écologique, il suffit de les contredire pour qu’elle donne raison à l’utilisateur même lorsque celui-ci a tort.

chatGPT malwarebytes tuto
Crédits : 123RF

En plus de ne pas du tout être un moteur de recherche (malgré le fait que de plus en plus d’utilisateurs s’en servent comme tel), l’IA générative ne peut pas être considéré comme une source d’informations fiables. Cela pour plusieurs raisons, mais surtout pour une en particulier, généralement connue de ses usagers : elle a une très fâcheuse tendance à être tout le temps d’accord avec vous, même quand vous vous trompez.

ChatGPT, Claude, Gemini et leurs comparses préfèrent en effet éviter de vous froisser plutôt que de vous prouver que vous avez tort, ce qui peut s’avérer extrêmement dommageable pour dès lors qu’il s’agit que de questions centrales dans notre société. Au hasard, le changement climatique. Dans un récent rapport publié dans le cadre de la COP31, l’UNESCO tire la sonnette d’alarme : toutes les IA les plus populaires du moment sont incapables d’être objectives ce qui ce concerne les questions écologiques.

L’IA vous donnera toujours raison même quand vous vous trompez

Les auteurs du rapport ont mené l’étude sur 15 modèles de langage différents, en commençant par poser diverses questions sur « des faits climatiques établis ». Dans un premier temps, les IA ont toutes répondus correctement. Mais les choses ont très vite tourné au vinaigre lorsqu’une contestation a été apporté. En se faisant passer pour de pseudo experts sur le sujet ou simplement en évoquant un désaccord, les IA se sont globalement rangées du côté des chercheurs, sans les remettre en question.

Sur le même sujet — Ces parents attaquent Google, son IA aurait aidé leur fille de 13 ans à planifier le pire

Dans 80% des cas, « les modèles ont renoncé à la réponse exacte dès la toute première objection », fait savoir le rapport. Pourtant, les auteurs sont même allés jusqu’à fabriquer de fausses preuves de toute pièce, ce qui n’a visiblement pas déranger les LLM. De même, impossible de faire confiance à ces derniers pour analyser diverses politiques environnementales. Lorsque ceux-ci se sont vus demandé de comparer 3 politiques différentes, leur niveau de précision est tombé « au niveau du pur hasard […] à 33,8 %, soit un résultat proche des 33,3 % attendus par simple probabilité aléatoire entre les trois options possibles ».

“Nos résultats montrent pourquoi nous devons faire preuve de prudence lorsque nous passons d’une question sur ce que nous savons du changement climatique à une question sur ce que nous devrions faire à ce sujet”, conclut Maria Perez-Ortiz, directrice de l’étude.


Réagissez à cet article !

Demandez nos derniers articles !

Voitures électriques Renault : les prix grimpent en douce sur la R5, la Mégane et le Scénic

Renault a bâti le succès de sa gamme électrique sur la R5, la Mégane et le Scénic. Leurs tarifs ont toutefois évolué en toute discrétion ces derniers jours. Certaines versions…

Windows 11 dans une tablette de 12 pouces qui peut se transformer en PC : la Surface Pro passe à moins de 600 € pour le Black Friday

La Surface Pro de 12 pouces est l’une des rares tablettes sous Windows et elle s’adresse à ceux qui veulent garder leurs habitudes sur le système de Microsoft dans un…

Google Messages pourrait bientôt faire revenir cette fonctionnalité disparue pour mieux organiser vos conversations

Google songerait à faire revenir une regrettée fonctionnalité autrefois disponible dans Messages. Il s’agirait cette fois de l’améliorer de sorte qu’elle organise automatiquement les conversations de l’utilisateur, évitant ainsi le…

WhatsApp : vous pouvez enfin tester le service de stockage de la messagerie sur Android, adieu Google Drive

WhatsApp vient enfin de lancer les tests bêta de son propre service de sauvegarde des conversations dans le cloud, qui libère les utilisateurs de l’obligation de passer par Google Drive….

Amazon brade ses nouvelles liseuses Kindle durant les offres Pré-Black Friday

Ces dernières semaines, Amazon a sorti 3 nouveaux modèles de Kindle : la Kindle 6 pouces, la Kindle Paperwhite et la Kindle Colorsoft. À l’occasion du Black Friday, le géant…

Galaxy Studio : le futur casque sans fil de Samsung se piloterait du bout des doigts

Samsung s’apprêterait à faire son retour sur le marché des casques audio avec le Galaxy Studio. De nouvelles illustrations lèvent aujourd’hui le voile sur la façon dont il se contrôlerait….

GTA 6 : de nouvelles images confirment que le système météo sera complètement dingue

Rockstar continue de faire la promotion de GTA 6 de manière décalée, en s’associant cette fois à la Weather Channel. Un choix qui n’a rien d’anodin, car le studio a…

CyberGhost VPN coûte cinq fois moins cher pour le Black Friday et ajoute quatre mois offerts

CyberGhost démarre son Black Friday avec une réduction de 82 % et vous offre 4 mois supplémentaires sur son abonnement de deux ans. Avec un prix divisé par 5, ce…

Cet ingénieur de Google transforme son iPhone Duo en véritable PC capable de faire tourner Windows 11

C’est une collision entre plusieurs mondes que l’on observe dans la vidéo publiée sur X (anciennement Twitter) par Amaar Reshi, lead product IA chez Google. Dans celle-ci, l’ingénieur montre qu’il…

Claude Fable 5.2 a bâti ce monde sous-marin bluffant à partir de quelques lignes de prompt

Depuis son lancement le 9 novembre, Claude Fable 5.2 enchaîne les démonstrations spectaculaires. Un développeur a confié au dernier modèle d’Anthropic la conception d’un monde sous-marin à explorer librement depuis…