Vous voulez faire planter ChatGPT ? Cette méthode marche à coup sûr

Habituellement vanté pour ses prouesses, ChatGPT fait parler de lui pour une tout autre raison. Certains utilisateurs ont remarqué que le chatbot refuse de répondre lorsqu’on lui soumet certains noms, et que l’IA coupe net la conversation.

Quand on parle de ChatGPT, c’est souvent pour mettre en avant ses performances. Récemment, l’IA a impressionné avec son mode vocal avancé ou ses capacités à surpasser des médecins dans le diagnostic de maladies complexes. Pourtant, ce week-end, une autre facette de l’outil a attiré l’attention : des utilisateurs ont découvert que mentionner certains noms, comme « David Mayer », bloque immédiatement la conversation, sans explication. Ce comportement inattendu soulève des interrogations sur le fonctionnement interne de cette IA.

Le problème ne concerne pas uniquement David Mayer . Deux autres noms provoquent des erreurs similaires. Un certain « Jonathan Zittrain », professeur à Harvard connu pour ses critiques sur l’intelligence artificielle, et « Jonathan Turley », un autre professeur de droit ayant accusé ChatGPT d’avoir inventé de fausses accusations de harcèlement contre lui. Ces derniers, même lorsqu’ils sont intégrés dans un contexte détourné ou modifiés, comme en les lisant à l’envers, déclenchent le même blocage. Cette situation inédite intrigue autant qu’elle divise.

ChatGPT réagit bizarrement face à certains noms spécifiques

Plusieurs hypothèses tentent d’expliquer ce phénomène. Certains évoquent des demandes légales de suppression de contenus, comme le droit à l’oubli, qui pourraient conduire à ces blocages. D’autres pensent que ces noms sont volontairement censurés en raison de polémiques ou de litiges. Par exemple, dans le cas de Jonathan Turley, ChatGPT aurait inventé un incident qui ne s’est jamais produit. Cela avait entraîné des accusations de diffamation. Enfin, il pourrait simplement s’agir d’un bug lié aux hallucinations de l’IA, où celle-ci génère des erreurs en réponse à des termes spécifiques.

OpenAI, l’entreprise derrière ChatGPT, n’a pas encore communiqué sur ces blocages. Cependant, ces incidents nous montrent bien les limites des algorithmes dans la gestion de données sensibles. Alors que l’IA gagne en popularité, ces cas illustrent les défis liés à la transparence et à la gestion des biais. Si cette appli continue de s’améliorer, cet épisode montre qu’elle reste une technologie imparfaite, capable d’erreurs déroutantes qui peuvent frustrer ses utilisateurs.

Source : 404media