YouTube : ces témoignages montrent les dangers de l’algorithme de recommandation de vidéos

L’algorithme de recommandation de YouTube est au coeur d’une campagne de Mozilla visant à améliorer sa pertinence – et en réduire les effets pervers. Le fondation cite 28 histoires d’utilisateurs qui sont tombés sur des contenus bizarres, ultra-violents, pornographiques ou dangereux sans que le sujet de ces vidéos n’ait de lien avec leurs centres d’intérêt.

Mozilla vient de lancer un mini-site (en anglais) sur lequel on peut lire 28 histoires d’utilisateurs de YouTube, autour de l’algorithme de recommandation. Autant d’incidents où l’algorithme de recommandations de YouTube leur a montré des vidéos parfois insoutenables montrant par exemple de la violence, du racisme, ou faisant l’apologie de théories conspirationnistes à des utilisateurs – adultes et enfants – qui s’en seraient bien passé.

YouTube : Mozilla veut aider Google à améliorer l’algorithme de recommandation de vidéos

« J’ai commencé à regarder un match de boxe, puis des matches de boxe dans la rue, et puis j’ai fini par tomber sur des vidéos de combats de rue, puis des accidents et de la violence urbaine… j’en suis sorti avec une vision horrible du monde et en me sentant mal, sans que ce soit quelque chose dont j’avais envie », raconte un utilisateur.

Un autre utilisateur raconte lui aussi comment l’algorithme joue la surenchère : « j’ai commencé à chercher des ‘vidéos de fails’ où des gens tombent ou se font un peu mal. YouTube m’a alors proposé une chaine qui montrait des vidéos issues de Dash Cams dans des voitures. Dans un premier temps il y avait des accidents mineurs, mais plus tard ça a évolué vers des voitures qui explosent et qui tombent de ponts – des vidéos dans lesquelles les gens n’ont clairement pas survécu à l’accident. Je me suis alors senti un peu malade, et je n’ai plus jamais recherché ce type de contenus ».

Il y a aussi l’histoire de ce professeur scandalisé par le nombre de vidéos conspirationnistes : « Je regardais des documentaires sérieux sur Apollo 11. Mais l’algorithme de recommandations de YouTube est désormais plein de vidéos sur des théories du complot : 11 septembre, échappée d’Hitler, chercheurs d’alien et propagande anti-américaine ». On trouve sur le site du projet 28 histoires racontant comment YouTube a montré des contenus LGBTphobes, racistes, ou à contenu sexuel.

70 % des vidéos visionnées sur YouTube sont proposées par l’algorithme de recommandations. Or cet algorithme est régulièrement la cible de critiques que ce soit pour sa dimension addictive (on peut passer des heures à se laisser montrer des vidéos recommandées) que pour ses ratés. Le mini-site de Mozilla est ainsi la vitrine d’un projet baptisé #YouTubeRegrets dont le but est de trouver des solutions.

« Ces histoires montrent que l’algorithme donne surtout du poids à l’engagement – il montre du contenu qui garde l’internaute en haleine, que ce contenu soit ou non dangereux », explique Ahsley Boyd, responsable du projet chez Mozilla. Et d’ajouter : « nous pensons que ces témoignages représentent de manière juste le problème plus large de l’algorithme de YouTube : les recommandations qui peuvent agressivement pousser des contenus bizarres ou dangereux. Le fait que nous ne puissions pas étudier ces histoires plus en profondeur – faute d’accès aux données adéquates – renforce l’idée que l’algorithme est opaque et hors de tout contrôle ». 

Le pari de Mozilla, c’est que YouTube et Google ne peuvent plus perfectionner seuls leur algorithme : « nous ne pensons pas qu’il s’agit d’un problème qui puisse être résolu en interne. Il est trop grave et complexe. YouTube doit permettre à des chercheurs indépendants de contribuer à la recherche d’une solution », estime Ashley Boyd. La fondation aimerait conduire la plateforme à ouvrir ses données à la communauté des chercheurs, les aider à construire des outils de simulation, et plus largement leur donner plus de marge de manoeuvre plutôt que de les laisser sur la touche.

Lire également : YouTube propose enfin des options pour contrôler les recommandations de vidéos

Qu’en pensez-vous ? Quelle est la recommandation de vidéo la plus étrange que YouTube vous a proposé ? Partagez votre retour dans les commentaires.

Source : The Next Web

Réagissez à cet article !
Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !
Google rajoute encore de la pub sur Youtube

Google rajoute encore de la pub sur Youtube avec l’arrivée ce mercredi 6 novembre des Shoppings Ads. Ces annonces apparaissent directement sur la page d’accueil du site, et dans les résultats de recherche. Les produits et services mis en avant…

YouTube sur Android : Google teste une nouvelle interface

Google teste actuellement une nouvelle interface pour l’application YouTube sur Android. La firme de Mountain View étudie en effet l’idée d’intégrer une nouvelle section pour les commentaires directement sous la vidéo en cours de lecture. Pour le moment, seule une infime partie des utilisateurs de YouTube ont droit…

YouTube teste un nouveau design : les internautes détestent !

YouTube propose un nouveau design de sa page d’accueil qui fait apparaître les aperçus des vidéos beaucoup plus grands. Certains utilisateurs y ont déjà droit et les réactions sur Reddit et Twitter sont très acerbes. Cette nouvelle interface est loin…