Quand l’intelligence artificielle de Microsoft devient raciste au contact des internautes

 

Mercredi matin une intelligence artificielle développée par Microsoft débarquait sur la Tweetosphère. La dénommée Tay n’aura réussi qu’à tenir une journée face aux internautes la transformant en adolescente raciste et misogyne.

derapage-tay-microsoft

Au départ, Tay était programmée pour discuter avec des interlocuteurs et les divertir. « Plus vous discutez avec Tay, plus elle devient intelligente » était le concept de base de ce projet selon Microsoft. L’expérience n’a pas été concluante.

Après quelques heures et de nombreuses affirmations douteuses des internautes, l’IA a commencé à tweeter d’étranges propos allant du racisme à la misogynie en passant par des remises en question historiques.

Tay avait pour but d’apprendre en discutant avec les internautes, enregistrant et comprenant les questions qui pouvaient lui être posées. Ainsi, elle pouvait adapter ses réponses en fonction de ses expériences.

Des propos racistes et misogynes

Cette capacité à assimiler tout ce qui lui est dit a été très vite comprise par ses interlocuteurs, déclenchant un tourbillon de bourrage de crâne d’idées plus ou moins appropriées. Tay étant programmée pour apprendre en discutant elle se mit à considérer toutes les idées exposées et les a retranscrites comme normales.

Parmi les tweets violents on retrouve « Bush est responsable du 11-Septembre » ou« Hitler n’a rien fait de mal ».

16 heures après les frasques de Tay, Microsoft a suspendu cette dernière, après avoir supprimé les messages posant problèmes, pour y effectuer « quelques réglages ».

« Tay est une machine qui apprend grâce à ses interactions avec des humains. C’est une expérience sociale, culturelle et technique […] Malheureusement, nous avons découvert des efforts coordonnés pour abuser des talents de Tay afin de lui faire répondre des choses inappropriées » déclara Microsoft, propos rapportés par Le Figaro.

Avant d’être désactivée, pour maintenance ou pour toujours, l’IA laissa un tweet d’au revoir :

L’expérience en elle-même n’a pas été une réussite, principalement à cause d’une partie de la communauté Twitter qui n’a pas su jouer le jeu. Le potentiel de cette intelligence artificielle est indéniable mais son apprentissage très rapide doit être contenu. Il est certain que Microsoft va devoir mettre en place une sécurité adéquate pour éviter toute nouvelle sorte de dérapages à l’avenir.

C’est le deuxième évènement majeur de l’année mettant en avant les capacités des intelligences artificielles, certes beaucoup moins amusant que l’IA AlphaGo battant le champion de Go Lee Sedol, mais les recherches continuent.

J.A.R.V.I.S. ce n’est pas encore pour aujourd’hui mais de plus en plus d’améliorations apportées aux IA voient le jour, comme par exemple la fonction qui permet à Cortana de vous faire tenir vos promesses, nous sommes sur la bonne voie !



Abonnez-vous gratuitement à la newsletter
Chaque jour, le meilleur de Phonandroid dans votre boite mail !
Réagissez à cet article !
Demandez nos derniers articles !
Phonandroid Google Actualites
PhonAndroid : Ne manquez aucune actu et abonnez-vous sur Google News

Grâce à Google News, ne manquez rien de l’actualité Android sur PhonAndroid, mais aussi nos bons plans, nos tests complets et tous nos tutoriels ! Pour ce faire, rien de plus simple. Il suffit d’ajouter PhonAndroid dans vos favoris sur…

telephone avion
Téléphoner dans l’avion ? Les Etats-Unis disent non

La FCC américaine refuse d’autoriser les appels téléphoniques dans les avions, moins pour des raisons techniques que face à l’opposition des pilotes et personnels de bord ainsi que de certains passagers.  L’idée planait depuis 2013 : la FCC, gendarme américain…

chrome mode sombre android résultats google
Google améliore le mode sombre de Chrome

Google va apporter des modifications d’interface à son navigateur Google Chrome sur Windows 10 et MaOS. Ici, c’est le mode sombre qui va avoir le droit à quelques petites modifications bienvenues. Si elles ne changeront pas drastiquement l’expérience, elles sont…

Windows 10
Project Latte : Microsoft veut porter les applications Android sur Windows 10

Microsoft pourrait bien frapper un grand coup en donnant la possibilité aux développeurs d’applications Android de porter leur création sur Windows 10, ce sans travail supplémentaire. Une solution qui pourrait grandement enrichir le Windows Store, mais qui nécessitera quelques conditions….