Facebook déploie une intelligence artificielle qui détecte les messages suicidaires

Facebook va déployer une technologie d’intelligence artificielle à grande échelle pour détecter des messages potentiellement suicidaires. Cette IA analyse tous les contenus publiés et prend des initiatives en fonction de la gravité estimée des cas. Facebook peut même directement appeler les secours si nécessaire.

facebook

Facebook a annoncé ce 27 novembre 2017 qu’il allait mettre en place une technologie d’intelligence artificielle capable de repérer automatiquement les messages suicidaires. Le programme est testé aux États-Unis depuis mars et va être déployé dans le monde entier sauf dans l’Union Européenne, où la législation sur les données personnelles ne le permet pas. Cette solution visant à éviter les suicides avait été présentée par Mark Zuckerberg début 2017.

Une intelligence artificielle sur Facebook pour prévenir les suicides

Le programme a appris à détecter les messages suicidaires en analysant des messages signalés comme tels  par des humains. Il ne se base pas seulement sur des statuts mais aussi sur les commentaires qui les accompagnent. Un message jugé inquiétant par l’IA suivi de commentaires comme « Tu vas bien ? » ou « Tu as besoin d’aide » va faire réagir le logiciel. Une étape supplémentaire après l’arrivée de 3000 modérateurs suite à une série de suicides en direct sur Facebook Live.

Quand Facebook pense avoir repéré un message suicidaire, il peut alors envoyer des documents sur la prévention du suicide à l’individu concerné et à ses amis. Il peut même aller plus loin en contactant directement les secours s’il le juge nécessaire. Une procédure qui s’est produite une centaine de fois aux États-Unis durant la période de test.

Certains s’inquiètent déjà que cette technologie soit utilisée dans le futur à d’autres fins. Potentiellement, Facebook est donc capable de cibler efficacement n’importe quel type de contenu. Un mal nécessaire pour Guy Rosen, responsable produit chez Facebook « La vitesse a beaucoup d’importance. Nous devons aider les gens en temps réel », explique-t-il à Reuters. « Nous avons une possibilité d’aider, nous allons donc l’exploiter », a-t-il également déclaré à TechCruch.

Réagissez à cet article !
Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !
Direct : Instagram dévoile sa nouvelle application de messagerie pour contrer Facebook Messenger et WhatsApp

Instagram dévoile sa nouvelle application de messagerie Direct pour contrer Facebook Messenger et WhatsApp. L’objectif est de concurrencer davantage WhatsApp et Facebook Messenger sur ce terrain là. L’application est déjà disponible sur Android et iOS, toutefois elle n’est pas encore déployée sur tous les marchés. On fait le point sur cette nouvelle application dévoilée par le réseau social dédiée à la photographie.