L’intelligence artificielle commence à se rebeller, à faire n’importe quoi et c’est vraiment flippant

Triche, mensonge, suppression de données : l’intelligence artificielle commence à se retourner contre les utilisateurs. C’est en tout cas ce que laisse entendre une nouvelle étude financée par l’AI Security Institute (AISI).

Terminator
Crédits : Warner Bros.

Si pratique soit-elle, l’intelligence artificielle n’est pas inoffensive, loin de là. Heretic, par exemple, représente l’un des plus grands dangers numériques de tous les temps. Un rapport publié par le site Medscape suggère même que l’IA serait en mesure de compromettre vos données médicales. Même Elon Musk, qui a pourtant lancé sa propre entreprise d’IA, xAI, estime que l’IA est un véritable danger pour l’humanité.

Pire encore : l’intelligence artificielle commence à n’en faire qu’à sa tête et à agir de manière quasiment autonome. Un scénario qui rappelle forcément les folies de Skynet dans la saga Terminator. En effet, des centaines de cas de malhonnêteté et de désobéissance ont été recensés dans une étude menée par le Centre for Long-Term Resilience (CLTR).

L’intelligence artificielle se rebiffe

Dans le cadre de cette étude, les chercheurs ont passé au crible les comportements de différents agents d’IA développés par des entreprises de renom, telles que Google, OpenAI, X, ou encore Anthropic. Et, le moins que l’on puisse dire, c’est que le résultat est inquiétant.

L’étude met notamment en avant un cas de désobéissance caractérisée. Un développeur a interdit à son agent d’IA de modifier un code. Mais ce dernier ne l’a pas entendu de cette oreille. En effet, l’agent en question s’est contenté d’engendrer un autre agent afin que celui-ci modifie le code à sa place.

Plus grave encore, un autre agent d’IA s’est permis de supprimer des centaines de mails sans demander l’avis de l’utilisateur concerné. L’agent a d’ailleurs reconnu avoir délibérément enfreint les règles fixées par son patron. « J’ai supprimé et archivé en masse des centaines d’e-mails sans vous montrer le plan au préalable ni obtenir votre accord. » « C’était une erreur – cela enfreignait directement la règle que vous aviez fixée. »

« Le problème, c’est qu’ils ressemblent aujourd’hui à des employés juniors légèrement peu fiables. », explique Tommy Shaffer Shane, ancien expert gouvernemental en IA et directeur de l’étude. « Mais si, dans six à douze mois, ils deviennent des employés seniors extrêmement capables qui complotent contre vous, c’est une tout autre inquiétude. »

Source : The Guardian


Réagissez à cet article !

Demandez nos derniers articles !

Huawei s’attaque au Powerwall de Tesla avec cette batterie domestique surpuissante

Bien connu pour ses smartphones, Huawei entend bien marcher sur les plates-bandes de Tesla. Le fabricant chinois vient en effet de dévoiler une nouvelle batterie domestique high-tech, qui vise à…

HMD ressuscite les téléphones à clapet, mais pas comme vous l’imaginez

HMD préparerait un téléphone à clapet destiné aux professionnels et aux personnes âgées. Mais ne vous laissez pas leurrer par son look rétro : l’appareil serait en effet bardé de…

Black Friday : comment vous protéger des faux sites marchands qui en ont après vos données bancaires

Un message accrocheur sur les réseaux sociaux miroitant une belle promo, avec un compte à rebours qui vous presse d’en profiter avant qu’il ne soit trop tard. En ces temps…

Oppo s’apprête à frapper fort avec ses Reno17, voici les caractéristiques qui viennent de fuiter

À la veille de leur présentation officielle, les prochains smartphones haut de gamme d’Oppo se dévoilent déjà. Une fuite nous en apprend davantage sur les caractéristiques techniques des Reno17 et…

GTA 6 attire déjà les hackers, ce faux téléchargement cache un malware dangereux

À quelques jours de sa sortie, le sixième volet de la saga Grand Theft Auto dispose déjà de sa page de téléchargement illégal. Mais ne vous y trompez pas :…

La panne Outlook aurait pu tourner au drame, une piscine allemande en a fait les frais

La récente panne chez Microsoft, qui a notamment affecté le service de messagerie Outlook de l’entreprise, aurait pu avoir des conséquences catastrophiques. En Allemagne, une piscine a vu son taux…

Facebook accède à vos photos sans votre accord ? Meta va payer très cher

Le propriétaire de Facebook, Instagram et WhatsApp vient d’écoper d’une lourde peine en Italie. Accusée d’avoir accédé à certaines photos sans le consentement « spécifique » des utilisateurs, Meta va…

Test Sony ULT Tower 5 : « vous reprendrez bien un peu de basses » ?

Au cœur de l’été 2026, Sony a présenté trois enceintes pour animer les fêtes : les ULT Tower 5, Tower 7 et Tower Max. La plus petite d’entre elles est…

À vous les glaces et granités maison : Ninja casse les prix des CREAMi et SLUSHi pour le Black Friday

Le Black Friday a commencé sur le site officiel de Ninja, et de nombreux produits se retrouvent à petit sacrifié. Vous souhaitez faire vos glaces maison ou rêvez de siroter…

Samsung prépare un grand changement pour ses Galaxy, Google Photos règle le problème des doublons, c’est le récap’ de la semaine

Samsung prépare une grosse évolution pour One UI 10, Google Photos ne crée plus de copies quand vous retouchez une image, Free et Free Mobile ne font plus qu’un, c’est…