Facebook déploie une intelligence artificielle qui détecte les messages suicidaires

Maj. le 25 octobre 2018 à 10 h 25 min

Facebook va déployer une technologie d’intelligence artificielle à grande échelle pour détecter des messages potentiellement suicidaires. Cette IA analyse tous les contenus publiés et prend des initiatives en fonction de la gravité estimée des cas. Facebook peut même directement appeler les secours si nécessaire.

facebook

Facebook a annoncé ce 27 novembre 2017 qu’il allait mettre en place une technologie d’intelligence artificielle capable de repérer automatiquement les messages suicidaires. Le programme est testé aux États-Unis depuis mars et va être déployé dans le monde entier sauf dans l’Union Européenne, où la législation sur les données personnelles ne le permet pas. Cette solution visant à éviter les suicides avait été présentée par Mark Zuckerberg début 2017.

Une intelligence artificielle sur Facebook pour prévenir les suicides

Le programme a appris à détecter les messages suicidaires en analysant des messages signalés comme tels  par des humains. Il ne se base pas seulement sur des statuts mais aussi sur les commentaires qui les accompagnent. Un message jugé inquiétant par l’IA suivi de commentaires comme « Tu vas bien ? » ou « Tu as besoin d’aide » va faire réagir le logiciel. Une étape supplémentaire après l’arrivée de 3000 modérateurs suite à une série de suicides en direct sur Facebook Live.

Quand Facebook pense avoir repéré un message suicidaire, il peut alors envoyer des documents sur la prévention du suicide à l’individu concerné et à ses amis. Il peut même aller plus loin en contactant directement les secours s’il le juge nécessaire. Une procédure qui s’est produite une centaine de fois aux États-Unis durant la période de test.

Certains s’inquiètent déjà que cette technologie soit utilisée dans le futur à d’autres fins. Potentiellement, Facebook est donc capable de cibler efficacement n’importe quel type de contenu. Un mal nécessaire pour Guy Rosen, responsable produit chez Facebook « La vitesse a beaucoup d’importance. Nous devons aider les gens en temps réel », explique-t-il à Reuters. « Nous avons une possibilité d’aider, nous allons donc l’exploiter », a-t-il également déclaré à TechCruch.

Réagissez à cet article !
Abonnez-vous gratuitement à la newsletter
Chaque semaine, le meilleur de Phonandroid dans votre boite mail !
Demandez nos derniers articles !
Facebook : pourquoi de nombreux groupes sont devenus secrets ?

De nombreux groupes Facebook sont soudainement devenus secrets au cours des dernières 24 heures. Une rumeur en vogue sur le réseau social assure en effet qu’une page indonésienne signale en masse les groupes dédiés au partage de blagues, de memes…

Facebook : le cofondateur veut démanteler le réseau social

Chris Hughes, l’un des cofondateurs de Facebook, appelle à démanteler le réseau social. Dans une tribune publiée dans le New York Times, il estime que le pouvoir détenu par Mark Zuckerberg, qui détient 60% des parts du groupe, est devenu…

Mark Zuckerberg viré de Facebook ?

Mark Zuckerberg pourrait bien vivre ses derniers instants à la tête de Facebook. Un vote aura lieu le 30 mai 2019 pour lui retirer ou le conforter dans ses fonctions au sein de l’entreprise. Mais après tous les scandales, son…

Facebook change de design : découvrez toutes les nouveautés

Facebook procède à son plus grand changement de design. Le réseau social perd pour la première fois son bandeau bleu si caractéristique de se charte visuelle. Le fond devient encore plus blanc et l’algorithme change pour davantage mettre en avant les communautés. L’application…

Messenger : Facebook promet une nouvelle app légère et ultra rapide

Facebook Messenger est en train d’être complètement reconstruit. Les développeurs repartent quasiment de zéro en termes de code afin d’alléger très largement la taille de l’application et la rendre beaucoup plus rapide qu’actuellement, et ce tout en conservant l’ensemble des…

Messenger de retour dans l’application Facebook ?

Mise à jour 15/04/2019 : ajout de la déclaration officielle de Facebook Messenger devrait faire son grand retour sur l’application du réseau social Facebook. La fonctionnalité avait disparu il y a plusieurs années, forçant les utilisateurs à installer une second…

Facebook vous espionne même si vous désactivez votre compte

Facebook continue de vous espionner après la désactivation de votre compte. Interrogé sur la question, le réseau social admet sans détour que la collecte de données se poursuit jusqu’à la suppression définitive de votre profil. Les utilisateurs qui souhaitent faire une croix sur…

Facebook dévoile comment fonctionne vraiment votre fil d’actualité

Facebook a décidé de faire preuve de transparence. Le réseau social déploie aujourd’hui une nouvelle fonctionnalité qui va permettre à ses utilisateurs de mieux comprendre le fonctionnement de leur fil d’actualité. Un bouton en haut à droite de chaque publication va…