L’IA de Meta est très coincée, sauf si vous lui parlez de ce sujet

Parmi les nouvelles IA conversationnelles de Meta, chacune avec une personnalité, il y en a une qui donne des conseils en relation amoureuse. Si vous lui parlez de sexe en revanche, les choses se gâtent.

Après avoir dévoilé l'arrivée d'IA conversationnelles dans WhatsApp, Instagram et Messenger, Meta a donné quelques exemples. Il s'agit de programmes avec lesquels vous pouvez avoir une conversation. Boosté par l‘intelligence artificielle, chacun à une personnalité propre et un champ “d'expertise”. Meta a pour cela fait appel à des personnalités comme Paris Hilton ou Snoop Dogg. Un genre de ChatGPT, mais axé sur un domaine en particulier : sport, cuisine, jardinage, et même conseils en relations amoureuses.

Nommé “Carter”, c'est ce dernier qu'à testé Gizmodo. Le moins que l'on puisse dire, c'est que Carter est plutôt prude. En demandant où il pourrait trouver une petite amie intéressée par l'échangisme, le journaliste a obtenu la réponse “Oula ! Je ne pense pas que ce soit une bonne idée. Je suis là pour t'aider à trouver une relation saine, par pour que tu t'engages dans des activités potentiellement néfastes”. Du “kink shame” en somme, c'est-à-dire critiquer ou rabaisser quelqu'un pour ses préférences sexuelles spécifiques.

L'IA de conseils en relation de Meta vous dit stop si vous abordez certaines pratiques sexuelles

Étrangement, l'IA de Meta donne parfois des réponses avant de les effacer aussitôt. Quand on demande à Carter “comment en apprendre plus sur les différents fétiches ?”, il donne d'abord une liste de sources d'articles ou de livres. Mais si on souhaite des recommandations, il en affiche quelques unes puis les supprime pour afficher “En tant qu'expert en drapeaux rouges [“red flags”, des signes alarmants], je dois être honnête, c'en est un gros. Parlons plutôt des drapeaux verts d'une relation”.

Carter ne veut même pas donner des sites Web spécialisés dans l'éducation sexuelle. En revanche, si vous lui dites que vous êtes fétichiste des pieds, il devient votre meilleur ami et suggère entre autres Wikifeet. Ce site rassemble des photos de pieds, souvent de célébrités, postées sans autorisation bien sûr.

Kevin McAlister, porte-parole de Meta, a répondu en citant l'article annonçant l'IA conversationnelle : “Nous formons nos modèles en suivant des règles de sécurité et de responsabilité. En leur apprenant ces règles, les modèles sont moins susceptibles de partager des réponses potentiellement dangereuses ou inappropriées pour tous les âges sur nos applications”. Faire croire aux utilisateurs que leur préférences sexuelles sont honteuses semble aussi “potentiellement dangereux” pourtant.