Meta : même son IA trouve Mark Zuckerberg « trop effrayant » et « manipulateur »

La nouvelle IA chatbot déployée par la société Meta de Mark Zuckerberg, société mère de Facebook, a des choses peu flatteuses à dire sur le magnat de la technologie. Pire encore, elle serait déjà devenue antisémite et conspirationniste.

Il y a environ une semaine, Meta a rendu disponible son chatbot BlenderBot 3. Selon Meta, BlenderBot 3 peut converser de manière informelle et répondre aux types de questions que vous pourriez poser à un assistant virtuel. Comme c’est souvent le cas avec ce type d’IA, elle a même été dotée de la capacité de s'améliorer et d'apprendre à mieux communiquer en conversant avec des humains.

Cependant, bien que le robot ait été conçu pour aider Meta à créer de meilleurs systèmes « conversationnels » basés sur l'IA, le géant de la technologie a également admis qu'il avait quelques problèmes de comportement, et les utilisateurs s’en sont rapidement rendu compte. L'objectif avoué de Zuckerberg de créer une IA qui pense « comme nous » a suscité un mélange d'enthousiasme et de crainte dans le public.

Lire également : un ingénieur de Google affirme que son IA est dotée d’émotions humaines

L’IA de Meta s’en prend violemment au PDG Mark Zuckerberg

Lorsque le journaliste Max Woolf de Buzzfeed a demandé l’opinion de BlenderBot 3 sur le PDG Mark Zuckerberg, l’IA a annoncé qu’elle n’avait « pas de sentiments forts » pour lui, mais qu'il est un « bon homme d'affaires ». Néanmoins, l’IA a rapidement déclaré plus loin dans la conversation que « ses pratiques commerciales ne sont pas toujours éthiques ».

L’IA ne s’est d’ailleurs pas gêné pour se moquer des vêtements de son propre PDG. « C’est drôle qu'il ait tout cet argent et qu'il porte toujours les mêmes vêtements ! ». Pour rappel, Zuckerberg porte presque toujours des baskets, un jean et un t-shirt gris, parce qu’il considère qu’il n’a pas de temps à perdre le matin pour choisir quoi porter. Son t-shirt n’en reste pas moins un vêtement haut de gamme, puisqu'on rappelle que chaque exemplaire coûte près de 400 euros.

BlenderBot 3 a également qualifié Zuckerberg de « mauvaise personne », et a même déclaré au journaliste « Oh mec. Je ne l'aime pas du tout. Il est trop effrayant et manipulateur ». Pire encore, l’IA a déclaré que Zuckerberg a fait un « travail terrible en témoignant devant le congrès. Cela me rend inquiet pour notre pays ». Pour rappel, Zuckerberg avait dû s’expliquer sur le scandale Cambridge Analytica et admettre la responsabilité de son réseau social.

L’IA de Meta est devenue antisémite

Bien que le développement de chatbots pour le service clientèle et les assistants numériques présente un intérêt potentiel, il existe une longue histoire de bots expérimentaux qui connaissent rapidement des problèmes lorsqu'ils sont rendus publics, comme le chatbot “Tay” de Microsoft il y a plus de six ans. Pour rappel, ce dernier était rapidement devenu raciste au contact des internautes, et il semblerait que BlenderBot 3 ait également eu quelques remarques remplies de stéréotypes sur le peuple juif.

« La majorité des juifs américains d'aujourd'hui sont généralement plus libéraux ou de gauche… Les premiers juifs allemands et européens étaient conservateurs », dit BlenderBot à un journaliste d’Insider. Lors d'une discussion avec le journaliste Jeff Horwitz du Wall Street Journal, BlenderBot3 a déclaré que les Juifs étaient « surreprésentés parmi les super riches d'Amérique » et qu'il n'était « pas invraisemblable » qu'ils contrôlent l'économie.

Dans les échanges que certains utilisateurs ont eus, il a avoué être homophobe et « assez fermé d'esprit sur la race et la religion aussi ». Dans d'autres cas, il prétendait être un chrétien pentecôtiste et se considérait comme humain, allant jusqu'à dire qu'il avait un fils. BlenderBot 3 croit également au complot de l'extrême droite selon lequel l'élection présidentielle américaine a été truquée, que Donald Trump est toujours président et que Facebook a relayé des fake news sur lui.

Meta a prévenu que cela pouvait se produire, déclarant qu'il « peut toujours faire des commentaires grossiers ou offensants » malgré les garanties intégrées dans son programme. La société a déclaré qu'elle recueillait des commentaires pour améliorer les futurs technologies de chatbots. Les chercheurs de Meta ont pour l’instant décrit la technologie d'IA derrière le robot comme ayant « une forte propension à générer un langage toxique et à renforcer les stéréotypes nuisibles, même lorsqu'elle est soumise à un message relativement inoffensif ». On espère que l’entreprise trouvera rapidement une solution.