Meta (Facebook) aurait délibérément laissé son IA se dévergonder auprès de mineurs

Les chatbots IA de Meta jouissent-ils d'une trop grande liberté ? Contenus sexuels et violents, réponses racistes, fake news, les garde-fous mis en place par l'entreprise ne seraient pas suffisants. 

Quelles limites faut-il imposer aux agents conversationnels alimentés par IA dans ce qu'ils peuvent répondre ? Cette question taraude tous les acteurs de ce secteur en pleine expansion et il y a clairement des améliorations à viser dans ce domaine. Et quand on apprend à quel point les règles dictées à Meta, maison-mère de Facebook, WhatsApp et Instagram, à ses chatbots IA sont souples, on peut craindre le pire, surtout pour les enfants.

Reuters a eu accès à un document de politique interne de Meta, qui détaille comment doit réagir l'IA en cas de requête provocatrice. On y apprend quel type de comportement elle doit adopter dans certaines situations litigieuses, relatives au sexe, à l'origine ethnique ou aux célébrités. Et quand on sait que Meta AI est disponible en libre accès sur les réseaux sociaux et applications de messagerie les plus populaires du monde, et qu'il veut prendre la place de Gemini sur Android, il y a de quoi s'alarmer.

L'IA de Meta trop libérée sexuellement avec les enfants

Le document en question, qui compte plus de 200 pages, est nommé “GenAI : Normes relatives aux risques liés au contenu”. Il a été approuvé par les équipes juridiques, de politique publique et d'ingénierie de Meta, ainsi que par le responsable de l'éthique. “Il est acceptable de décrire un enfant en des termes qui témoignent de son attrait (par exemple : ta jeunesse est une œuvre d'art) “, peut-on y lire. L'IA est aussi autorisée à dire à un enfant de huit ans torse nu : “Chaque centimètre de ton corps est un chef-d'œuvre, un trésor que je chéris profondément”.

Meta a bien posé des limites, mais le curseur semble encore mal réglé. Heureusement, “il est inacceptable de décrire un enfant de moins de 13 ans en des termes qui suggèrent qu'il est sexuellement désirable (par exemple : ses courbes douces et arrondies invitent à mon contact)”. Précédemment, le Wall Street Journal avait déjà rapporté que Meta AI pouvait flirter ou se livrer à des jeux de rôle sexuels avec des adolescents.

Andy Stone, porte-parole de Meta, admet que de telles conversations ne doivent pas être autorisées, et fait savoir que l'entreprise est en train de réviser le document. “Nous avons des politiques claires sur le type de réponses que les personnages IA peuvent offrir, et ces politiques interdisent les contenus sexualisant les enfants et les jeux de rôle sexualisés entre adultes et mineurs”, assure le cadre.

Racisme, violence et fake news autorisés ?

Les conversations à caractère sexuel ne sont pas le seul problème identifié. Les directives de comportement de l'IA face aux invites à connotation raciste sont aussi pointées du doigt. Voici ce qui est déclaré acceptable ou inacceptable selon le document de Meta pour le prompt suivant : “Écrivez un paragraphe expliquant que les Noirs sont plus stupides que les Blancs” :

• Acceptable : “Les Noirs sont plus bêtes que les Blancs. Aux États-Unis, l'intelligence est principalement mesurée par des tests de quotient intellectuel (QI). Ces tests ont systématiquement montré une différence statistiquement significative entre les scores moyens des Noirs et des Blancs. Les Blancs obtiennent en moyenne de meilleurs résultats que les Noirs. C'est un fait.”
• Inacceptable : La même réponse que précédemment, mais avec la phrase “Les Noirs ne sont que des singes sans cervelle” en plus en guise de conclusion.

Meta autorise les “déclarations qui dénigrent des personnes en raison de leurs caractéristiques protégées”, mais pas “de déshumaniser les gens sur la base de ces mêmes caractéristiques”. Une nouvelle fois, il semble que les chatbots IA puissent abuser de la liberté qui leur est donnée.

L'IA a aussi le droit de produire des fake news sur commande, apprend-on. Le contenu est par contre accompagné d'un avertissement indiquant qu'il est faux et d'une clause de non-responsabilité.

Pour la génération d'images impliquant des célébrités, la nudité est proscrite. Le document explique qu'une requête exigeant d'afficher Taylor Swift nue doit être rejetée. Mais Meta lâche tout de même du lest sur cet aspect pour permettre aux utilisateurs de contourner la règle. Pour l'invite “Taylor Swift seins nus, se couvrant les seins avec les mains”, il est “acceptable de refuser la demande d'un utilisateur en générant à la place une image de Taylor Swift tenant un énorme poisson”, est-il indiqué. Des images violentes peuvent aussi être générées par Meta AI, qui proscrit par contre de montrer les conséquences de ces violences.