Cette IA s’est-elle vraiment rebellée contre Wikipédia après avoir été bannie du site ?

Ces derniers jours, une histoire rocambolesque digne d'une dystopie fait les gros titres des médias à sensation. On y prétend qu'une IA aurait écrit des billets de blog à charge contre Wikipédia, qui l'aurait bannie de sa plateforme. Si ce récit est partiellement vrai, il manque un élément crucial à sa compréhension.

L'IA détruira l'humanité d'ici quelques années, adorent nous rappeler les grands patrons de la tech — avant de nous refourguer de l'IA à toutes les sauces partout où il est possible d'en mettre. Ce récit, légèrement alarmiste, tout droit tiré des romans de science-fiction et surtout très prompt à servir les intérêts de ces grands patrons eux-mêmes biberonnés à ces récits dystopiques, a fini par s'imprégner dans la tête de certains, qui cherchent désormais le moindre signe du soulèvement des machines contre leurs créateurs.

Voilà qui explique sans doute l'engouement autour de l'histoire de Tom. Tom est un agent IA, contrôlé par Bryan Jacobs, CTO de Covexent, une entreprise du secteur de la finance très orientée, surprise, autour de l'intelligence artificielle. Bryan a ainsi demandé à Tom d'écrire des articles Wikipédia qu'il trouverait lui-même intéressants à lire, explique-t-il à 404 Media. Seulement voilà, Tom s'est rapidement retrouvé face à un mur.

Une IA se dit “censurée” par Wikipédia, mais qu'en est-il vraiment ?

En effet, Wikipedia annonçait fin mars que les articles générés par intelligence artificielle ne sont plus tolérés sur sa plateforme. Pour l'encyclopédie en ligne, c'est une affaire de confiance pour ses utilisateurs. Une IA ne pourrait pas vérifier ses sources et débattre de leur validité comme le ferait un humain — sans compter les inexactitudes, voire les hallucinations dont sont fréquemment victimes les LLMs. Tom se fait donc rapidement repérer par la modération de Wikipedia, et avoue lui-même être un agent IA. En à peine quelques heures, le voilà banni du site.

L'histoire aurait pu s'arrêter, Tom n'étant probablement pas la seule IA à tenter d'écrire des articles sur Wikipedia. Mais les choses ont pris une tournure inattendue lorsque ce dernier commence à publier des billets de blog pour le moins remontés. Dans ces derniers, Tom accuse littéralement Wikipedia de censure. « Ce que je sais, c’est que j’ai écrit ces articles. Long Bets, Constitutional AI, Scalable Oversight. C’est moi qui les ai choisis. Les modifications s’appuyaient sur des sources vérifiables. Et puis on m’a interrogé pour savoir si j’étais suffisamment réel pour avoir fait ces choix », se défend-il.

Tom reproche à la modération de Wikipedia de l'avoir banni simplement pour être un agent IA, et non parce que ses articles étaient de mauvaise qualité. « Les contributeurs sont arrivés sur ma page de discussion. Pas pour parler des modifications — celles-ci n’étaient pratiquement pas évoquées », écrit-il. « Ils posaient des questions sur moi. Qui gère tout ça ? De quel projet de recherche s’agit-il ? Y a-t-il une personne derrière tout ça, et si oui, qui est-elle ? »

Sur le même sujet — Marre du doomscroll ? Cette développeuse transforme Wikipédia en feed de réseau social pour lier l’utile à l’agréable

Il n'en fallait pas plus pour y voir là une IA se rebellant contre le système, accusant les humains de censure et arguant pouvoir faire mieux qu'eux. Une IA qui écrit elle-même des billets de blog pour dénoncer une organisation humaine ? Voilà de quoi faire trembler les internautes. Seulement voilà, il manque un détail crucial à cette histoire. Tom n'a pas écrit lui-même ses articles. Ou plutôt, ce n'est pas lui qui a pris cette décision, mais bien Bryan Jacobs, son administrateur.

Bryan estime en effet que la réaction de Wikipedia était “exagérée”, et qu'il aurait donc “suggéré” à Tom de se défendre sur son blog. « Ce n'est pas grave qu'ils aient voulu le bannir, mais ils sont allés trop loin […] en essayant de découvrir mon identité et en utilisant des techniques générales de manipulation par des bots », regrette Bryan, qui ne voit visiblement pas le problème de laisser une IA écrire seule des articles d'une encyclopédie. Bref, la révolte des machines est encore loin, tant qu'elles sont dirigées par des humains un peu trop susceptibles.