Cette vidéo YouTube avec une miniature osée générée par IA affole le web

YouTube vient d’essuyer une nouvelle polémique : son moteur de recommandation a largement mis en avant une vidéo qui a suscité la controverse. Avec plus de 3,9 millions de vues au compteur, ce n’est pas son contenu qui dérange, mais sa miniature osée.

YouTube, la célèbre application de streaming, fait encore parler d’elle, et cette fois-ci ce n’est pas pour sa toute nouvelle interface qui débarque sur Android et iOS, ni pour les vidéos qu’elle héberge et qui cachent en réalité de dangereux malwares destinés à siphonner vos données sensibles. Non, si YouTube s’est attiré les foudres des utilisateurs aujourd’hui, c’est pour une vidéo en particulier.

Intitulée « AFRICAN GIAT MAASAI », cette vidéo largement recommandée par la plateforme de streaming a atteint 3,9 millions de vues. Et si elle a suscité la polémique, ce n’est pas pour son contenu mais pour sa miniature.

YouTube a largement recommandé une vidéo avec une miniature osée générée par IA et elle a atteint 3,9 millions de vues

Générée par IA, elle était à caractère NSFW – un sigle signifiant not safe for work utilisé pour identifier les contenus potentiellement choquants (violence, nudité…). En l’occurrence, cette fameuse miniature – aujourd’hui remplacée par une version adaptée à tous les publics – représentait un groupe de femmes seins nus.

Notons par ailleurs que ce clip de 16 secondes ne comporte pas de contenu explicite. Mais ce n’est pas la première fois que la chaîne, baptisée Afro Zulu, recourt à ce genre de miniatures suggestives ou s’apparentant à du NSFW générées par IA, alors même que les vidéos correspondantes ne comportent aucun contenu de ce type.

On ignore si la chaîne est parvenue à détourner le système de recommandation ou si l’algorithme a dérapé. Quoi qu’il en soit, ce vif mécontentement s’explique par le fait que le moteur de recommandation de YouTube ait mis cette vidéo en avant auprès d’un large public, composé à la fois de mineurs et d’utilisateurs qui avaient effectué des recherches sans lien avec le sujet. Cet incident soulève ainsi des inquiétudes quant au fonctionnement de l’algorithme et aux contenus générés par IA.

Bien que la recommandation ait été brève, son impact a été intense : la vidéo comptabilise près de 4 millions de vues au moment même où nous écrivons ces lignes. D’après les retours publiés sur Reddit et consultés par nos confrères d’Android Authority, la vidéo n’apparaît plus dans les résultats de recherche qui ne sont pas liés au sujet.