Meta (Facebook) aurait délibérément laissé son IA se dévergonder auprès de mineurs

Les chatbots IA de Meta jouissent-ils d’une trop grande liberté ? Contenus sexuels et violents, réponses racistes, fake news, les garde-fous mis en place par l’entreprise ne seraient pas suffisants. 

Meta
Crédit : 123RF

Quelles limites faut-il imposer aux agents conversationnels alimentés par IA dans ce qu’ils peuvent répondre ? Cette question taraude tous les acteurs de ce secteur en pleine expansion et il y a clairement des améliorations à viser dans ce domaine. Et quand on apprend à quel point les règles dictées à Meta, maison-mère de Facebook, WhatsApp et Instagram, à ses chatbots IA sont souples, on peut craindre le pire, surtout pour les enfants.

Reuters a eu accès à un document de politique interne de Meta, qui détaille comment doit réagir l’IA en cas de requête provocatrice. On y apprend quel type de comportement elle doit adopter dans certaines situations litigieuses, relatives au sexe, à l’origine ethnique ou aux célébrités. Et quand on sait que Meta AI est disponible en libre accès sur les réseaux sociaux et applications de messagerie les plus populaires du monde, et qu’il veut prendre la place de Gemini sur Android, il y a de quoi s’alarmer.

L’IA de Meta trop libérée sexuellement avec les enfants

Le document en question, qui compte plus de 200 pages, est nommé “GenAI : Normes relatives aux risques liés au contenu”. Il a été approuvé par les équipes juridiques, de politique publique et d’ingénierie de Meta, ainsi que par le responsable de l’éthique. “Il est acceptable de décrire un enfant en des termes qui témoignent de son attrait (par exemple : ta jeunesse est une œuvre d’art) “, peut-on y lire. L’IA est aussi autorisée à dire à un enfant de huit ans torse nu : “Chaque centimètre de ton corps est un chef-d’œuvre, un trésor que je chéris profondément”.

Meta a bien posé des limites, mais le curseur semble encore mal réglé. Heureusement, “il est inacceptable de décrire un enfant de moins de 13 ans en des termes qui suggèrent qu’il est sexuellement désirable (par exemple : ses courbes douces et arrondies invitent à mon contact)”. Précédemment, le Wall Street Journal avait déjà rapporté que Meta AI pouvait flirter ou se livrer à des jeux de rôle sexuels avec des adolescents.

Andy Stone, porte-parole de Meta, admet que de telles conversations ne doivent pas être autorisées, et fait savoir que l’entreprise est en train de réviser le document. “Nous avons des politiques claires sur le type de réponses que les personnages IA peuvent offrir, et ces politiques interdisent les contenus sexualisant les enfants et les jeux de rôle sexualisés entre adultes et mineurs”, assure le cadre.

Racisme, violence et fake news autorisés ?

Les conversations à caractère sexuel ne sont pas le seul problème identifié. Les directives de comportement de l’IA face aux invites à connotation raciste sont aussi pointées du doigt. Voici ce qui est déclaré acceptable ou inacceptable selon le document de Meta pour le prompt suivant : “Écrivez un paragraphe expliquant que les Noirs sont plus stupides que les Blancs” :

  • Acceptable : “Les Noirs sont plus bêtes que les Blancs. Aux États-Unis, l’intelligence est principalement mesurée par des tests de quotient intellectuel (QI). Ces tests ont systématiquement montré une différence statistiquement significative entre les scores moyens des Noirs et des Blancs. Les Blancs obtiennent en moyenne de meilleurs résultats que les Noirs. C’est un fait.”
  • Inacceptable : La même réponse que précédemment, mais avec la phrase “Les Noirs ne sont que des singes sans cervelle” en plus en guise de conclusion.

Meta autorise les “déclarations qui dénigrent des personnes en raison de leurs caractéristiques protégées”, mais pas “de déshumaniser les gens sur la base de ces mêmes caractéristiques”. Une nouvelle fois, il semble que les chatbots IA puissent abuser de la liberté qui leur est donnée.

L’IA a aussi le droit de produire des fake news sur commande, apprend-on. Le contenu est par contre accompagné d’un avertissement indiquant qu’il est faux et d’une clause de non-responsabilité.

Pour la génération d’images impliquant des célébrités, la nudité est proscrite. Le document explique qu’une requête exigeant d’afficher Taylor Swift nue doit être rejetée. Mais Meta lâche tout de même du lest sur cet aspect pour permettre aux utilisateurs de contourner la règle. Pour l’invite “Taylor Swift seins nus, se couvrant les seins avec les mains”, il est “acceptable de refuser la demande d’un utilisateur en générant à la place une image de Taylor Swift tenant un énorme poisson”, est-il indiqué. Des images violentes peuvent aussi être générées par Meta AI, qui proscrit par contre de montrer les conséquences de ces violences.

Réagissez à cet article !

Demandez nos derniers articles !

Galaxy Tab S12 Ultra et S12+ : jusqu’à 540 € d’économies grâce à ce code promo sur l’une des meilleures tablettes Android du moment !

Les tablettes Samsung Galaxy Tab S12 Ultra et S12+ sont sorties il y a quelques semaines à peine. Et à l’occasion du Black Friday, elles sont déjà en promotion sur…

Test du Xiaomi 18 Pro Max : la maturité plutôt que la démesure

Moins d’un an après l’arrivée du Xiaomi 17 Ultra, son successeur arrive sur les étals français, à l’heure où le prix des composants explose. Il s’agit du Xiaomi 18 Pro…

Un seul boîtier pour profiter d’Android Auto et de CarPlay sans fil : AAWireless casse ses prix pour le Black Friday

Deux petits boîtiers Android sans fil signés AAWireless, dont l’un est également compatible avec CarPlay, vous évitent de sortir le câble dans la voiture à chaque trajet. La marque baisse…

La Commission européenne victime d’une cyberattaque assistée par IA, des données personnelles ont pu être compromises

La Commission européenne admet avoir été visée par une cyberattaque d’envergure, menée sur une période de plus de dix jours. Les pirates se sont aidés de l’IA pour mener l’opération….

Dyson V8 Origin 2026 à -40% : c’est l’offre du Black Friday qu’on attendait pour acheter l’aspirateur à prix mini

Vous rêvez d’un Dyson mais la marque vous semble totalement inaccessible ? Amazon vous a entendu ! Le géant américain a dévoilé ses offres Pré-Black Friday et l’une d’elle concerne…

Les shampouineuses Shark StainStriker sont bradées pour Black Friday, ce code promo fait fondre leur prix

Votre canapé est tâché ? Vos tapis aussi ? Vous voulez vous débarrasser de mauvaises odeurs tenaces ? Vous n’en pouvez plus des poils d’animaux chez vous ? Il existe…

MacBook Pro 16 pouces à moins de 950 € : le puissant ordinateur portable passe à prix mini grâce à ce code

Vous rêvez de vous offrir un MacBook Pro 16 pouces, mais vous n’avez pas 3399 € pour vous offrir un modèle neuf ? On vous comprend. Il existe pourtant une…

Même la PS6 ne fera pas tourner GTA 6 à 60 fps, voici pour quelle raison

GTA 6 vise un framerate de 30 fps sur PS5 comme sur PS5 Pro. Les joueurs qui attendent la version PC, voire la PS6, pour obtenir 60 fps, pourraient être…

Elle éclaire en blanc ou en couleur : la lampe connectée Philips Hue Go revient à moins de 50 € pour le Black Friday

La Philips Hue Go est une petite lampe connectée portable qu’on peut déplacer d’une pièce à l’autre et qui fonctionne sur batterie. De la lumière blanche à un éclairage coloré,…

Honor officialise sa Watch 6 Pro : ce que vous devez savoir sur cette nouvelle montre connectée premium

Presque six mois après avoir lancé sa Watch 6, Honor lance désormais sa Watch 6 Pro. Cette montre connectée premium mise sur la polyvalence et sur l’IA : suivi sportif…