Google explique sa surveillance de Gmail après avoir dénoncé un pédophile
John Henry Skillern a été arrêté jeudi dernier pour possession de pornographie infantile. Il est accusé d’avoir envoyé des images d’enfants à un ami, mais alors que c’est la police de Houston qui a obtenu un mandat de perquisition pour la tablette et l’ordinateur de Skillern et qui l’a placé en détention, c’est Google qui l’a avertie de ses activités illégales.
Skillern utilisait Gmail pour envoyer des images de pédopornographie, sauf que chacune de ces images avait reçu une empreinte digitale unique. Quand elles ont été envoyées par Gmail, elles ont donc été identifiée par un système automatisé, permettant à Google de dénoncer Skillern aux autorités.
David Drummond, l’avocat de Google, avait présenté les grandes lignes de son système de tagging automatique l’année dernière, dans le cadre de la lutte de Google contre la pédopornographie. Drummond avait alors expliqué que Google utilisait cette technologie depuis 2008, fabricant une base de données qui prévient la société quand du contenu pornographique infantile connu est trouvé sur son moteur de recherche ou dans Gmail.
D’autres compagnies ont accès à des technologie similaire de tagging photo, y compris Microsoft, dont le logiciel PhotoDNA peut aussi détecter des images signalées. PhotoDNA peut calculer un hachage (une sorte de tatouage) mathématique pour une image, lui permettant de reconnaitre par la suite des photos automatiquement, même si elle ont été altérées.
La technologie est maintenant utilisée par twitter et Facebook, après que Microsoft l’ai donnée au NCMEC (un centre pour la protection des enfants) en 2009. La vidéo est également devenu un point d’intérêt pour ce genre de programmes d’empreinte virtuelle. Google a son propre logiciel d’identification video pour détecter des images d’abus sur enfants, et la compagnie anglaise Friend MTS a donné son logiciel de detection Expose F1 au centre international pour les enfants disparus et exploités (ICMEC) plus tôt cette année.
Alors que la technologie a aidé à stopper les activités de personnes telles que John Henry Skillern, le système de détection automatisé utilisé par Google et les autres a quelques défaut. Premièrement, les nouvelles images ne peuvent pas être détectées ; seules les images déjà enregistrée dans la base de données peuvent être repérées. Des questions de vie privée sont également à poser.
Google déclare a été très clair sur le fait que son système de detection automatisé n’était pensé que pour détecter de la pornographie infantile. Gmail reconnait depuis longtemps scanner notre boite pour des objectifs publicitaires, mais pour ce qui est des images alertant la police, aucune autres ne seront signalées, même si elles sont associé à des activités criminelles, comme un email préparant un braquage, par exemple
On se demande évidemment ou “dessiner la frontière”. On a du mal à condamner une méthode permettant de trouver les prédateurs sexuels, mais qu’en est-t-il des autres criminels ? Quand est-ce que nous devons décider que certains crimes méritent de franchir la ligne de la vie privée alors que d’autres non ? Quels sont vos avis ?
