Facebook déploie une intelligence artificielle qui détecte les messages suicidaires

 

Facebook va déployer une technologie d’intelligence artificielle à grande échelle pour détecter des messages potentiellement suicidaires. Cette IA analyse tous les contenus publiés et prend des initiatives en fonction de la gravité estimée des cas. Facebook peut même directement appeler les secours si nécessaire.

facebook

Facebook a annoncé ce 27 novembre 2017 qu’il allait mettre en place une technologie d’intelligence artificielle capable de repérer automatiquement les messages suicidaires. Le programme est testé aux États-Unis depuis mars et va être déployé dans le monde entier sauf dans l’Union Européenne, où la législation sur les données personnelles ne le permet pas. Cette solution visant à éviter les suicides avait été présentée par Mark Zuckerberg début 2017.

Une intelligence artificielle sur Facebook pour prévenir les suicides

Le programme a appris à détecter les messages suicidaires en analysant des messages signalés comme tels  par des humains. Il ne se base pas seulement sur des statuts mais aussi sur les commentaires qui les accompagnent. Un message jugé inquiétant par l’IA suivi de commentaires comme « Tu vas bien ? » ou « Tu as besoin d’aide » va faire réagir le logiciel. Une étape supplémentaire après l’arrivée de 3000 modérateurs suite à une série de suicides en direct sur Facebook Live.

Quand Facebook pense avoir repéré un message suicidaire, il peut alors envoyer des documents sur la prévention du suicide à l’individu concerné et à ses amis. Il peut même aller plus loin en contactant directement les secours s’il le juge nécessaire. Une procédure qui s’est produite une centaine de fois aux États-Unis durant la période de test.

Certains s’inquiètent déjà que cette technologie soit utilisée dans le futur à d’autres fins. Potentiellement, Facebook est donc capable de cibler efficacement n’importe quel type de contenu. Un mal nécessaire pour Guy Rosen, responsable produit chez Facebook « La vitesse a beaucoup d’importance. Nous devons aider les gens en temps réel », explique-t-il à Reuters. « Nous avons une possibilité d’aider, nous allons donc l’exploiter », a-t-il également déclaré à TechCruch.



Abonnez-vous gratuitement à la newsletter
Chaque jour, le meilleur de Phonandroid dans votre boite mail !
Réagissez à cet article !
Demandez nos derniers articles !
facebook censure gorafi
Facebook censure Le Gorafi pour violence et provocation

Facebook vient de censurer une publication humoristique du Gorafi. Dans un post, le journal satirique prêtait à Jean Castex des propos plutôt virulents sur les personnes qui portent le masque sanitaire sous le nez. Les algorithmes de modération de Facebook…

Facebook Dating
Facebook Dating : l’application de rencontre est disponible en France

Facebook Dating arrive dans l’Hexagone, c’est officiel. Les Français, accompagnés de leurs voisins européens, peuvent dès aujourd’hui se créer un profil sur l’application du réseau social. Déjà testé à travers le monde, le service directement intégré à l’application Facebook, a…

facebook interdit anti vaccin
Facebook interdit désormais les publications anti-vaccins

Facebook va finalement interdire toutes les publications qui dissuadent les internautes de se faire vacciner. Bien décidé à lutter contre la prolifération de fake news, le réseau social s’est engagé à serrer la vis. Dans un second temps, Facebook va…

facebook refuse moderer trump
Facebook interdit désormais les messages qui remettent en cause la Shoah

Facebook va finalement interdire les contenus négationnistes dans le monde entier. Jusqu’ici, le réseau social de Mark Zuckerberg se contentait d’appliquer la législation en vigueur pays par pays. Les publications niant l’Holocauste étaient ainsi bannies en France et en Allemagne mais…

facebook censure photo oignons trop sexy
Facebook censure une photo d’oignons, ils seraient « trop sexy »

Facebook vient de censurer une photo montrant des oignons. D’après l’algorithme du réseau social, le cliché est « trop sexualisé » pour être publié sur la plateforme. Une nouvelle fois, l’algorithme de Facebook a fait de l’excès de zèle.  Ce 3 octobre 2020, Jackson…