Google envoie une notification raciste à de nombreux utilisateurs, oups

Tollé général pour Google après l'envoi d'une notification contenant un mot clairement tabou aux États-Unis sur plusieurs smartphones. La firme s'excuse platement et explique d'où vient l'erreur.

Votre smartphone est posé à côté de vous. La sonnerie indiquant la réception d'une notification retentit. Vous saisissez l'appareil pour vérifier s'il ne s'agit pas d'un message important. Non, c'est juste Google qui vous envoie un lien vers un article concernant les BAFTA. Une cérémonie dédiée au cinéma comme les César ou les Oscars. Vous vous apprêtez à reposer le mobile quand quelque chose attire votre attention. Est-ce que vous avez bien lu ?

Aussi incroyable que cela puisse paraître, oui. La notification qui pointe vers un article de The Hollywood Reporter contient un mot à connotation raciste aux États-Unis. Elle reprend le titre du papier puis indique : “The Hollywood Reporter – See more on Niggers“, le mot anglais pour “nègres“. Il n'a clairement rien à faire là et très vite, les internautes se demandent ce qu'il a bien pu se passer. Google n'a pas tardé à réagir pour apporter des explications

Comment Google a pu envoyer une notification contenant un mot à caractère raciste

Contrairement à ce que l'on peut penser de prime abord, l'intelligence artificielle n'a rien à voir là-dedans. Google indique que ses systèmes “ont reconnu un euphémisme pour un terme offensant sur plusieurs pages Web et ont accidentellement appliqué ce terme offensant au texte de la notification. Cette erreur système n’est pas liée à l’IA. [Les] filtres de sécurité ne se sont pas déclenchés correctement, ce qui a provoqué cet incident“.

Lire aussi – Google retire ses résumés IA après avoir donné des conseils santé dangereux

Ironie du sort, un spectateur présent lors des BAFTA et atteint du syndrome de Gilles de La Tourette a également crié le mot en “N” pendant la cérémonie. De son côté, la firme de Mountain View s'est engagée à faire le nécessaire : “Nous sommes sincèrement désolés pour cette erreur. Nous avons supprimé la notification inappropriée et nous nous efforçons d'éviter que cela ne se reproduise“.

Source : Deadline