ChatGPT accuse sans raison ce père de famille d’avoir tué ses enfants

Imaginez demander à ChatGPT ce qu’il sait de vous, et découvrir qu’il vous accuse d’avoir assassiné vos propres enfants ! C’est le cauchemar qu’a vécu un père de famille norvégien.

L’intelligence artificielle ChatGPT s’est récemment distinguée en accusant à tort un père de famille norvégien d’infanticide. Une erreur qui soulève de sérieuses questions sur la fiabilité des chatbots et leurs potentielles conséquences.

En effet, lorsqu’Arve Hjalmar Holmen, un Norvégien sans histoire, a demandé à ChatGPT ce qu’il savait de lui, il était loin d’imaginer la réponse qu’il allait obtenir. Le chatbot l’a décrit comme un meurtrier ayant tué deux de ses enfants et tenté d’assassiner le troisième, le tout assorti d’une peine de prison de 21 ans. Une accusation totalement infondée qui a profondément choqué cet homme.

Lire également – ChatGPT s’invite dans vos Google Drive et Slack, une révolution pour le télétravail ?

Un père de famille injustement accusé par l’IA

Le plus troublant dans cette affaire est que ChatGPT a mêlé des informations véridiques à ses accusations mensongères. Le nombre d’enfants, leur sexe et même la ville natale d’Arve Hjalmar Holmen étaient corrects. Cette combinaison de vrai et de faux rend l’erreur d’autant plus crédible et dangereuse.

Face à cette dérive, l’association autrichienne de défense de la vie privée Noyb est montée au créneau. Elle a déposé une plainte contre OpenAI, la société derrière ChatGPT, pour violation du Règlement général sur la protection des données (RGPD). Selon Noyb, un simple avertissement sur les potentielles erreurs du chatbot ne suffit pas à dégager OpenAI de ses responsabilités.

Ce n’est pas la première fois que ChatGPT fait l’objet de critiques pour ses « hallucinations », le terme utilisé pour désigner ces inventions présentées comme des faits. D’autres cas ont été rapportés, impliquant de fausses accusations de fraude, de maltraitance d’enfants ou encore de harcèlement sexuel.

L’affaire soulève de sérieuses questions sur l’utilisation et la régulation des chatbots IA. Comment s’assurer de l’exactitude des informations qu’ils fournissent ? Quelles sont les responsabilités des entreprises qui les développent ? Le débat est loin d’être clos et risque de s’intensifier à mesure que ces technologies se répandent dans notre quotidien. En attendant, Arve Hjalmar Holmen espère obtenir réparation et surtout, que de telles erreurs ne se reproduisent plus à l’avenir.