Hallucination au tribunal : un procès suspendu, des avocats condamnés pour avoir choisi l’IA comme associé

Cette affaire pourrait porter le titre d’« Arroseur arrosé ». Lors d’un procès, ce sont finalement les avocats des deux parties qui se sont retrouvés condamnés… pour avoir utiliser l’IA dans leurs argumentaires respectifs. Eh oui, si les textes générés par IA portent des indices typographiques visibles, ce sont les hallucinations qui trahissent leur nature à l’oral.

Les chatbots IA ont tendance à produire des textes aseptisés et truffés de marqueurs distinctifs permettant à un œil aguerri de les débusquer plutôt aisément. Mais lors d’une transposition orale, les éléments typographiques qui peuvent trahir un usage de l’IA, comme un certain type de tiret, sont invisibles. Il est donc plus difficile de détecter lorsqu’une production a été tout ou partie générée par un chatbot – a fortiori quand le texte est incarné.

L’un des seuls indices qui demeure alors, ce sont les hallucinations non éradiquées. Et c’est exactement ce qui a fait plonger plusieurs avocats lors d’un procès. Réunis pour palider, ce sont finalement ces hommes de loi qui ont été condamnés pour avoir utilisé l’IA.

Une affaire comme une autre au verdict insolite : le procès est suspendu, les avocats condamnés

Cela aurait pu être une affaire comme il y en a des tas : un procès initié par une plainte pour rupture de contrat liée à des honoraires d'avocat impayés entre la ville d'Aberdeen et une robe noire. Toutefois, la juge du Mississippi en charge de cette affaire a fini par condamner non pas le plaignant ou l’accusé, mais les avocats des deux parties pour usage de l’IA.

La citation, dans leurs argumentaires respectifs, de précédents jurisprudentiels n’ayant jamais existé a mis la puce à l’oreille de la magistrate, qui a demandé aux avocats de fournir les copies des décisions de justice – inventées par l’IA donc – mentionnées. La juge a donc ordonné la suspension des procédures, disqualifié les quatre avocats impliqués de l’affaire, leur a infligé une amende totale de 8 000 $ et interdit à deux d’entre eux de comparaître dans la moindre affaire au sein du district pendant deux ans.

Cette affaire marque un précédent quant à l’usage de l’IA dans des affaires judiciaires. Ces avocats ne sont évidemment pas les seuls à utiliser l’IA pour s’aider dans la rédaction de leurs conclusions juridiques. La juge en a témoigné elle-même : d'après ses propos relayés par TechRdar, ce n’est pas la première fois que son tribunal devait composer avec le fait d'être « accablé par la gestion des hallucinations d'IA dans les conclusions juridiques ».

Une décision sévère, mais nécessaire pour protéger l’intégrité de la Justice

Plusieurs éléments ont joué en la défaveur des avocats mis en cause ici. Le premier réside dans la récidive des faits reprochés : l’une des deux avocates avait déjà été mise en garde contre cette pratique dans une affaire distincte. Le second point qui a conduit ces avocats à leur perte est leur défense bancale – c’est le comble pour des hommes de Loi.

Ils ont en effet plaidé l’ignorance de la capacité des IA à halluciner : une explication jugée « insuffisante et invraisemblable » par la magistrate. C’est pourtant le B.A.-BA de vérifier les informations fournies par les chatbots, puisque ces derniers sont susceptibles de faire des erreurs.

Ce n’est pas pour rien que les bas de page des conversations avec ChatGPT ou Gemini le mentionnent explicitement : « ChatGPT peut faire des erreurs. Envisagez de vérifier les informations importantes. » Une bonne occasion de rappeler que l’IA n’est qu’un outil et qu’il est important de faire preuve d’esprit critique dès l’instant où vous l’utilisez.