Il envoie des photos de son enfant nu au médecin pour un diagnostic, Google bloque son compte

Inquiet d’une infection contractée par son jeune enfant, un père de famille a envoyé des photos à un médecin. Deux jours plus tard, Google bloquait son compte et prévenait la police dans le cadre de la lutte contre la possession et le partage d’images pédopornographiques.

google android
Crédit : Arkan Perdana via Unsplash

Les limites de l’intelligence artificielle. Un article du New York Times rapporte que l’IA de Google se montre un peu trop véhémente dans certaines situations, assimilant à de la pédopornographie des situations qui n’en sont pas. Un père de famille en a fait les frais après avoir pris des photos d’une infection à l’aine de son enfant afin de les envoyer au médecin.

Google a estimé que le contenu des photos était contraire à ses conditions d’utilisation et potentiellement illégal. Par conséquent, la firme américaine a fermé le compte Google de l’utilisateur concerné et a prévenu les autorités, déclenchant l’ouverture d’une enquête policière à son encontre.

La lutte contre la pédopornographie pose des problèmes d’interprétation à l’IA

Dans ce cas, c’est une infirmière qui avait demandé au père de famille d’envoyer les photos en amont d’une consultation vidéo, afin que le médecin puisse les analyser. Les faits remontent à février 2021, quand certains cabinets médicaux aux États-Unis ne prenaient plus de consultations en physique pour cause de COVID-19. Deux jours après la prise de photos, l’individu recevait une alerte de Google lui indiquant que son compte était verrouillé. Il a donc perdu l’accès à ses e-mails, à ses contacts, à ses photos… et même à son numéro de téléphone, car il était un client Google Fi, un service d’opérateur mobile virtuel exclusif aux États-Unis.

L’enquête de police a conclu après plusieurs mois que l’utilisateur n’avait commis aucun crime, mais la victime de la méprise a dû se résoudre à laisser les enquêteurs accéder à l’ensemble de ses données et contenus stockés avec Google. Les systèmes de surveillance mis en place par les GAFAM pour détecter les contenus illégaux sont fortement critiqués par les défenseurs de la vie privée. Récemment, Apple a mis de côté un système anti-pédopornographie controversé précédemment annoncé pour lui apporter des modifications.

Source : The New York Times

 

Réagissez à cet article !

Demandez nos derniers articles !

Le FBI piraté : les hackers auraient mis la main sur des données cruciales

Certains systèmes du Federal Bureau of Investigation (FBI) auraient été compromis. Les pirates auraient réussi à mettre la main sur une immense base de données nationale utilisée par les forces…

Un bricoleur refroidit sa RTX 5090 avec 30 ventilateurs et obtient un résultat impressionnant

Parfois, nul besoin d’un système de refroidissement coûteux pour maintenir sa machine à la bonne température. C’est ce qu’a pu prouver un bricoleur, qui a réussi à faire tourner sa…

GTA 6 vous fait perdre tout votre argent en quelques minutes, les joueurs sont furieux

Quelques jours à peine après sa sortie, le sixième volet de la saga Grand Theft Auto passionne autant qu’il divise. Les joueurs pointent du doigt un élément de gameplay de…

Gemini rattrape ChatGPT avec une nouveauté qui va vous faire gagner du temps

Quelques jours seulement après avoir fait ses débuts sur ChatGPT, une nouvelle option débarque dans l’IA de Google. Gemini est désormais capable de générer bien plus que des images… En…

Test Motorola Edge 70 Max : probablement notre smartphone préféré de la gamme Edge 70

Les smartphones de la famille Edge 70 chez Motorola, on les avait presque tous testés. Et il est difficile dans une si grande famille de sortir du lot. Pourtant, un…

Samsung prépare un nouveau design pour One UI 10, les premiers avis sur GTA 6 sont tombés, c’est le récap’ de la semaine

La presse a joué à GTA 6, One UI 10 pourrait apporter un nouveau visage au Galaxy, Sharp sort un petit smartphone avec un écran très fluide, c’est le récap’…

Google aurait pu sauver cette fonction du Pixel 11, mais a finalement fait marche arrière

À l’occasion de la sortie du Pixel 11, Google a abandonné certaines technologies. Mais un potentiel prototype du Pixel 11 Pro révèle que la firme de Mountain View aurait pu…

Google supprime un bouton essentiel de son moteur de recherche au profit de l’IA

Le plus célèbre des moteurs de recherche évolue une nouvelle fois. Google est en effet en train de refondre son interface, qui perd certains boutons au profit de l’intelligence artificielle….

Pourquoi certains VPN se font bloquer et pas d’autres ? Voici comment Proton VPN vous redonne une liberté totale

Pour votre sécurité, l’un des réflexes à adopter lorsque vous vous connectez à un WiFi public ou inconnu, c’est d’utiliser un VPN. Seulement, sur certains réseaux, et même à l’échelle…

Volkswagen prépare une Polo électrique de 362 chevaux, voici le monstre

À l’occasion du 50ᵉ anniversaire du légendaire badge GTI, Volkswagen s’apprête à dévoiler un monstre de puissance. Il s’agit de l’ID. Polo GTI Clubsport, la Polo électrique la plus puissante…