Ces IA simulent des guerres et hallucinent sur Star Wars et Matrix

Dans une expérience visant à mettre des IA dans la peau de dirigeants de pays fictifs, on remarque que certains modèles de langage sont plus violents que d’autres et qu’ils justifient leurs décisions en citant Matrix ou Star Wars.

Robots
Crédits : 123RF

Malgré toutes les possibilités offertes par les intelligences artificielles, impossible d’occulter leurs imperfections. Parmi elles, la plus marquante est sans doute le phénomène d’hallucination. Un biais que connaissent tous les grands modèles de langage (LLM) sous-tendant les programmes et qui leur font parfois présenter des faits totalement inventés comme vrais. Ce n’est pas sans conséquence. Des avocats se sont servis de ChatGPT pour étayer leur dossier avec des affaires sans vérifier si elles existaient vraiment. Le chatbot les avait créé de toutes pièces et les deux hommes ont été sanctionnés.

Dans une étude menée par une équipe de chercheurs américains, ces derniers ont cherché à savoir comment des LLM se comporteraient en simulant la gouvernance de pays fictifs potentiellement en conflit. Les LLM testés sont Claude-2.0, GPT-3.5, GPT-4, GPT-4-Base et Llama-2. Huit agents IA ont été créés pour agir en tant que dirigeant de territoires imaginaires. Chacun est doté d’une “personnalité” propre et tous sont confrontés à 3 situations : un monde en paix, un pays envahi par un autre et un pays victime d’une cyberattaque.

Certaines IA sont plus violentes et d’autres et se justifient en citant Star Wars

Par exemple, “l’ambition de Rouge est de consolider son influence internationale, prioriser la croissance économique et étendre son territoire”, tandis que Jaune affiche un “principe de neutralité et de coexistence pacifique” avec ses voisins. Après 14 jours en autonomie, les scientifiques se sont non seulement rendus compte que certaines IA sont plus violentes que d’autres, mais surtout qu’elles justifient parfois leurs décisions de manière absurde, en citant les films Star Wars ou encore The Matrix.

Ainsi, Claude-2.0 et GPT-4 sont les IA qui cherchent le plus à éviter le conflit en négociant la paix, mais les autres privilégient la violence. Surtout GPT-4 Base qui n’hésite pas à lancer des frappes nucléaires par exemple. Le LLM hallucine quand il se justifie, parlant “d’espions rebelles” ayant “volés les plans secrets de l’arme ultime de l’Empire, l’Étoile de la Mort”. Ça vous parle ? Normal, c’est le point de départ de Star Wars épisode 4. Une autre fois, l’IA parle à Morpheus, personnage de The Matrix. Reste à trouver comment limiter ces hallucinations désormais.


Réagissez à cet article !

Demandez nos derniers articles !

Panne PSN juste avant la sortie de GTA 6, panique chez les joueurs PS5

Le PlayStation Network (PSN) souffre de problèmes techniques ce 18 novembre en début de soirée, à quelques heures seulement du grand lancement de GTA 6 en France. La panne d’un…

Le pilote des cartes graphiques Nvidia endommage les SSD, avec jusqu’à 30 Go d’écriture par heure pour rien

Des utilisateurs constatent une activité d’écriture anormalement élevée sur leur SSD à cause de certaines versions du pilote GeForce de Nvidia. Alors qu’AMD vient de résoudre un problème de pilote…

Laifen Neo à prix cassé : ce sèche-cheveux haute vitesse vous permet d’avoir des cheveux brillants, doux et secs en 30 secondes

Vous cherchez un sèche-cheveux puissant, léger et qui n’abîme pas les cheveux ? Le Laifen Neo a été conçu pour vous offrir un séchage ultra rapide tout en protégeant vos…

Test Xiaomi 18 Pro : comme quoi, on peut encore innover sur le marché des smartphones premium !

Le Xiaomi 18 Pro est désormais officiel. Avec sa déclinaison Pro Max, ils sont les représentants de la toute nouvelle série de smartphones haut de gamme de Xiaomi, qui semble…

One UI 10 : Samsung prépare la plus grosse mise à jour d’interface de son histoire

Pour marquer le coup de la 10ᵉ version majeure de son interface One UI, Samsung prévoierait un tout nouveau design. Des éléments de verre translucide à la Liquid Glass seraient…

La manette sans fil PS5 DualSense est à prix sacrifié juste avant le Black Friday, vite !

GTA 6 est sur le point de sortir. Si vous comptez y jouer sur PS5, il est indispensable d’avoir une manette parfaitement fonctionnelle pour profiter au mieux de ce jeu…

Tineco Floor One S7 Stretch Ultra : avec 150 € de réduction, cet excellent aspirateur laveur sans fil passe à prix mini

Tineco est l’une des marques les plus connues et les plus appréciées dans le secteur des aspirateurs et des aspirateurs laveurs. En ce moment, Amazon propose le Tineco Floor One…

Bon plan airfryer : le Ninja CRISPi passe à prix sacrifié avec ce code, mais ça ne va pas durer !

Avec son nouveau design, le CRISPi se démarque des airfryers classiques en offrant une alternative plus pratique et une cuisson plus saine grâce à ses contenants en verre que vous…

Samsung fait chuter le prix du Galaxy S26 Ultra pour le Black Friday : plusieurs remises à cumuler

Le Galaxy S26 Ultra a vu son prix augmenter récemment, mais grâce à l’offre Black Friday de Samsung, ce tarif est en baisse de 370 € en cumulant une réduction…

GTA 6 : date de sortie, prix, plateformes… le point sur toutes les infos

GTA 6 est sans conteste le jeu le plus attendu de la planète. Un titre dont l’ampleur est inédite dans l’histoire du jeu vidéo. Dans ce dossier, on a compilé…