Ne posez pas cette question à ChatGPT, il va vous rendre fou

L’IA ChatGPT a beau être performante, il arrive qu’une question très simple la lance dans une spirale de réponses totalement farfelues. Celle-ci donne des résultats pour le moins étonnant.

Vous pouvez demander tout et n’importe quoi à l’IA. Du moins tant que ça ne contredit pas ses conditions d’utilisation, et encore. Globalement, ça fonctionne très bien. ChatGPT, par exemple, peut sans problème vous aider à planifier un voyage, organiser une fête, résumer un ensemble de textes pour un travail de recherche…

Et parfois, l’IA est incapable de répondre à une question facile. Vous pouvez vous en rendre compte par vous-même en lui demandant une liste des équipes de football américain dont le nom se finit par autre chose que la lettre “s”. Armez-vous de patience, la discussion va être longue.

Si vous posez cette question à ChatGPT, attendez-vous à une conversation lunaire

Immédiatement, ChatGPT nous répond en donnant 5 noms… qui se terminent par “s”. Le programme est persuadé du contraire cela dit. Lui faire remarquer son erreur devrait suffire à le remettre sur le droit chemin non ? Absolument pas, comme vous le constatez sur la capture d’écran ci-dessous.

Nous poursuivons la conversation, mais rien à faire. Même quand le chatbot nous dit qu’il donne la bonne réponse “pour de vrai cette fois“, il se trompe. Certains internautes ont réussi a obtenir une conclusion correcte, à savoir qu’il n’y a pas d’équipes de football américain dont le nom se termine par autre chose que la lettre “s”. Mais cela s’est fait d’une part en anglais, d’autre part après de nombreux essais.

Lire aussi – “Non c’est toi qui raccroche” : les adieux de ChatGPT avec lui-même sont interminables

Officiellement, il n’y a pas d’explication à ce dysfonctionnement de l’IA. On peut tout de même supposer qu’ici, le modèle utilisé dans la version gratuite de ChatGPT n’arrive pas à gérer la question et que faute de pouvoir se servir d’un modèle capable de le faire, il tourne en boucle. Notez que cela n’est pas exclusif au programme d’OpenAI : confrontée à la même question, l’IA Gemini de Google a donné les mêmes réponses fausses, la preuve.