ChatGPT commet une énorme erreur en plein procès, l’avocat sanctionné

L’intelligence artificielle vient une nouvelle fois d’halluciner lors d’un procès. Un avocat a utilisé le célèbre ChatGPT pour préparer sa défense, mais celui-ci a tout simplement inventé des témoignages…

L’intelligence artificielle devient de plus en plus performante, c’est un fait. Celle-ci devient de plus en plus précise, à tel point que certains utilisateurs affichent une confiance quasi aveugle envers l’IA. Toutefois, il est important de rappeler que l’IA est susceptible de se tromper, et parfois lourdement. D’ailleurs, sur sa page d’accueil, ChatGPT vous le rappelle en permanence : « ChatGPT peut faire des erreurs. Vérifiez les informations importantes. »

Mais cela n’empêche visiblement pas certains utilisateurs de « copier/coller » des réponses ChatGPT toutes faites, pour le meilleur comme pour le pire. Et parfois, pour le pire. Lors d’un procès, la véracité des faits mis en avant est d’une importance capitale, nous ne vous apprendrons probablement rien ici.

Et pourtant, cela n’empêche pas nombre d’avocats de recourir à l’IA sans prendre le soin de « vérifier les informations importantes ». En 2023, déjà, un avocat inventait de fausses affaires grâce à l’IA pour l’aider dans son travail. Plus récemment, des avocats ont été condamnés pour avoir choisi l’IA comme associé, le procès en question ayant même été suspendu.

ChatGPT invente des témoignages, l’avocat évoque une « erreur honnête »

Mais ces multiples déboires judiciaires ne semblent pas avoir suffi à décourager l’avocat Stephen Aarons, qui a tenté de défendre son client à l’aide de ChatGPT. Malheureusement pour ce dernier, l’IA d’OpenAI a une nouvelle fois halluciné en plein procès. Celle-ci aurait par exemple généré de faux témoignages de policiers, allant même jusqu’à inventer des témoins.

Lire aussi – Ce géant de l’audit publie un rapport sur l’IA… rempli d’erreurs générées par l’IA

Et la sanction ne s’est pas faite attendre. Selon Reuters, l’avocat écope ainsi d’une amende de 5 000 dollars. Par ailleurs, son dossier devrait être transmis à une commission disciplinaire des avocats pour enquête. L’avocat s’est lui-même défendu en affirmant ne pas être au courant des problèmes d’hallucination de l’intelligence artificielle.

« Je regrette ce qui s’est passé, mais j’espère que la commission disciplinaire tiendra compte du fait qu’il s’agissait d’une erreur honnête », a-t-il déclaré. « C’est une leçon pour tous les professionnels qui s’appuient sur cette technologie puissante, mais parfois instable. »

Mais cela n’a pas suffi à convaincre les juges. « Maître, regardez-vous les informations ? Écoutez-vous la radio ? Lisez-vous quoi que ce soit sur ce qui se passe dans le monde ? » s’est exclamée la juge C. Shannon Bacon lors de l’audience. « Parce que le problème des avocats qui s’appuient sur les hallucinations de l’IA fait la une des journaux pratiquement tous les jours. »