ChatGPT se met à citer Grokipedia comme source et c’est un sérieux problème, voici pourquoi

On le sait, ChatGPT tente de se fier à de multiples sources pour construire ses réponses. Ces derniers jours, l'IA en a ajouté une nouvelle à son arsenal : Grokipedia, l'alternative d'Elon Musk à Wikipedia. C'est une très mauvaise nouvelle pour ChatGPT, comme pour ses utilisateurs, puisque Grokipedia est régulièrement épinglé pour propager des fake news.

Lorsque ChatGPT s'est lancé auprès du grand public, on lui a très vite reproché de ne pas citer ses sources pour appuyer ses réponses. La fonctionnalité a plus tardé été ajoutée par OpenAI, permettant de vérifier par soi-même les dires de l'IA… et repérer lorsque les sources en question sont fallacieuses. C'est malheureusement ce qu'il se passe depuis plusieurs jours, quand les utilisateurs se sont rendu compte que ChatGPT s'est mis à citer directement Grokipedia.

Grokipedia, c'est l'encyclopédie en ligne directement inspirée de Wikipedia lancée par Elon Musk en octobre dernier. Celle-ci tire son nom de Grok, l'IA de xAI, entreprise détenu par le milliardaire conservateur et sévissant sur le réseau social X (anciennement Twitter). Comme on pouvait s'y attendre compte tenu du pedigree du monsieur, Grokipedia est littéralement truffée de fausses informations, notamment sur des sujets de société sensibles tels que la cause LGBT, le racisme tout en diffusant certaines théories du complot.

Sur le même sujet – ChatGPT devine notre âge pour bloquer certains contenus aux mineurs, voici comment savoir quel âge il vous donne

ChatGPT est encore moins fiable qu'avant à cause de Grokipedia

Autant dire que ce n'est pas une très bonne surprise de voir ChatGPT considérer l'encyclopédie comme source fiable. Alors que l'IA peine déjà à convaincre du sérieux de ses réponses, de nombreuses études démontrant encore régulièrement qu'elle se trompe très fréquemment, la voir citer Grok n'est pas franchement rassurant.

D'après The Guardian, ChatGPT a utilisé Grok 9 fois sur 12 pour construire ses réponses, sur des sujets aussi sensibles que la situation en Iran ou encore l'Holocauste. « Nous appliquons des filtres de sécurité afin de réduire le risque d'afficher des liens associés à des préjudices graves, et ChatGPT indique clairement quelles sources ont inspiré une réponse à l'aide de citations », a assuré un porte-parole d'OpenAI interrogé, expliquant sur l'IA « vise à s'appuyer sur un large éventail de sources et de points de vue accessibles au public ».