Facebook déploie une intelligence artificielle qui détecte les messages suicidaires

Maj. le 25 octobre 2018 à 10 h 25 min

Facebook va déployer une technologie d’intelligence artificielle à grande échelle pour détecter des messages potentiellement suicidaires. Cette IA analyse tous les contenus publiés et prend des initiatives en fonction de la gravité estimée des cas. Facebook peut même directement appeler les secours si nécessaire.

facebook

Facebook a annoncé ce 27 novembre 2017 qu’il allait mettre en place une technologie d’intelligence artificielle capable de repérer automatiquement les messages suicidaires. Le programme est testé aux États-Unis depuis mars et va être déployé dans le monde entier sauf dans l’Union Européenne, où la législation sur les données personnelles ne le permet pas. Cette solution visant à éviter les suicides avait été présentée par Mark Zuckerberg début 2017.

Une intelligence artificielle sur Facebook pour prévenir les suicides

Le programme a appris à détecter les messages suicidaires en analysant des messages signalés comme tels  par des humains. Il ne se base pas seulement sur des statuts mais aussi sur les commentaires qui les accompagnent. Un message jugé inquiétant par l’IA suivi de commentaires comme « Tu vas bien ? » ou « Tu as besoin d’aide » va faire réagir le logiciel. Une étape supplémentaire après l’arrivée de 3000 modérateurs suite à une série de suicides en direct sur Facebook Live.

Quand Facebook pense avoir repéré un message suicidaire, il peut alors envoyer des documents sur la prévention du suicide à l’individu concerné et à ses amis. Il peut même aller plus loin en contactant directement les secours s’il le juge nécessaire. Une procédure qui s’est produite une centaine de fois aux États-Unis durant la période de test.

Certains s’inquiètent déjà que cette technologie soit utilisée dans le futur à d’autres fins. Potentiellement, Facebook est donc capable de cibler efficacement n’importe quel type de contenu. Un mal nécessaire pour Guy Rosen, responsable produit chez Facebook « La vitesse a beaucoup d’importance. Nous devons aider les gens en temps réel », explique-t-il à Reuters. « Nous avons une possibilité d’aider, nous allons donc l’exploiter », a-t-il également déclaré à TechCruch.

Réagissez à cet article !
Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !
Facebook, Instagram et Messenger sont encore en panne !

Facebook, Instagram et Facebook Messenger sont en panne en Amérique du Nord et en Europe. Les trois services sont momentanément inaccessibles pour des millions d’internautes. Certains ont même été déconnectés de leur compte en ligne. Le groupe californien a rapidement confirmé l’existence d’une panne.  Ce jeudi…

Facebook perd des utilisateurs en France pour la première fois

Facebook accuse une baisse d’utilisateurs en France et Allemagne en 2019 selon les chiffres de eMarketer. Les jeunes sont en grande partie responsable de cette baisse du nombre d’utilisateurs, et choisissent des plateformes qui les correspond davantage – quand bien…

Facebook lance Viewpoints, l’application qui paie ses utilisateurs

Facebook lance Viewpoints, une application qui paie ses utilisateurs. Ils sont invités à répondre à des sondages et des enquêtes portant sur leur usage des réseaux sociaux. Ces missions rapportent des points, qu’il est possible de convertir ensuite en somme…

Facebook sur Android : le mode sombre est enfin en cours de déploiement

Facebook va enfin avoir droit à un mode sombre sur Android. Une poignée d’utilisateurs du réseau social ont déjà pu passer l’interface mobile de l’application du côté obscur. Découvrez un nouvel aperçu de ce fameux mode sombre, actuellement en cours de déploiement. …

Facebook a effacé 5,4 milliards de faux comptes en 2019

Facebook a supprimé 5,4 milliards de faux comptes depuis le début de l’année 2019. C’est ce que nous apprend le dernier rapport bi-annuel sur la transparence du réseau social publié le mercredi 13 novembre 2019. Un autre chiffre émane de…