Facebook veut vous faire croire que son IA lutte efficacement contre les discours haineux

Facebook vient de répondre à un rapport selon laquelle son programme d'intelligence artificielle n'a eu que peu d'effet sur la réduction et la suppression des contenus violents sur le réseau social. Selon l’entreprise, son IA aide bien à réduire la diffusion de discours haineux.

Guy Rosen, vice-président chargé de l'intégrité de Facebook, a démenti les affirmations selon lesquelles la technologie d'intelligence artificielle utilisée pour lutter contre les discours haineux n'a que peu d'impact. En effet, selon le Wall Street Journal, les employés de Facebook chargés d'empêcher les contenus offensants d'apparaître sur la plateforme ne pensent pas que l'entreprise soit capable de les détecter de manière fiable. Une lanceuse d’alerte avait d’ailleurs affirmé il y a quelques semaines que le réseau social encourageait la haine en ligne pour faire des profits.

Pourtant, selon Rosen, la diffusion de discours haineux sur Facebook aurait diminué de près de 50 % au cours des trois derniers trimestres. « Nous ne voulons pas voir de haine sur notre plateforme, pas plus que nos utilisateurs ou nos annonceurs, et nous sommes transparents sur notre travail pour la supprimer », a écrit Rosen. « Ce que ces documents démontrent, c'est que notre travail d'intégrité est un parcours de plusieurs années. Bien que nous ne serons jamais parfaits, nos équipes travaillent continuellement pour développer nos systèmes, identifier les problèmes et construire des solutions », affirme Facebook.

Facebook lutte bien contre les discours haineux grâce à son IA

Rosen a aussi fait valoir qu'il était « erroné » de juger le succès de Facebook dans la lutte contre les discours de haine en se basant uniquement sur la suppression du contenu, et que la baisse de la visibilité de ce contenu est une mesure plus significative.

Selon les chiffres partagés par Facebook, la prévalence des contenus haineux sur la plateforme a diminué de près de 50 % au cours des trois derniers trimestres, pour atteindre environ 0,05 % du contenu consulté, soit environ 5 publications sur 10 000. Cependant, puisque Facebook compte des milliards d’utilisateurs qui peuvent partager ces propos haineux, cela signifie que de nombreuses personnes voient ces publications. Il faut donc lutter encore plus agressivement contre la haine en ligne pour limiter sa visibilité.

Facebook a parfaitement conscience des effets néfastes de ses applications sur le bien-être des plus jeunes, mais celui-ci avait officiellement démenti qu’elles étaient dangereuses. Pourtant, en réponse à la polémique, Instagram a annoncé l’arrivée d’une nouvelle fonctionnalité qui proposera aux adolescents de faire une pause pour préserver leur santé mentale.