400 applications de « nudification » découvertes sur le Play Store et l’App Store

Malgré des contrôles stricts, les magasins d’applications de Google et Apple abritent encore des applications pour déshabiller les gens par IA. Elles sont d’autant plus difficiles à repérer qu’elles ont l’apparence d’applications légitimes.

Les magasins d’applications mobiles officiels que sont le Play Store de Google et l’App Store d’Apple ont beau mettre en œuvre des mesures de contrôle strictes, il y aura toujours quelqu’un pour passer entre les mailles du filet. On y trouve par exemple des applis de « nudification ». Vous téléversez la photo de quelqu’un et l’intelligence artificielle se charge de faire apparaître la personne nue. Dans l’Union européenne, ce genre de programme est interdit et les plateformes concernée ont jusqu’à décembre 2026 pour les retirer sous peine d’amende.

Environ un mois avant cette date butoir, des chercheurs ont découvert l’existence d’un vaste réseau d’environ 400 applications de nudification, toutes accessibles via le Play Store ou l’App Store. Impossible de savoir à quoi l’on a affaire de prime abord puisqu’elles se présentent comme des applis d’apprentissage de langues, d’édition de photos ou encore de sport. Les applis dévoilent leur vraie nature après installation, mais pas chez tout le monde.

Des centaines d’applications de « nudification » se cachent dans les boutiques officielles

« À chaque téléchargement de l’application, un appel est effectué vers le serveur avec certaines informations, telles que la provenance de l’utilisateur, la langue, un identifiant unique, puis le serveur répond en indiquant s’il faut afficher la version explicite ou non explicite de l’application », résume Paul Bouchaud, chercheur principal au sein de l’organisation à but non lucratif AI Forensics. Pour le moment, les chercheurs n’ont pas réussi à établir une liste de critères déclenchant systématiquement la « transformation » de l’appli, à l’exception d’un.

Lire aussi – Play Store : 7 millions de personnes arnaquées par ces 28 applications accessibles à tous

Des publicités utilisant la plateforme Meta Ads font la promotion de ces applis en ne cachant pas leur fonction. En télécharger une après avoir cliqué sur l’une de ces pubs fait que l’on verra à coup sûr la version explicite du programme, qui permet la nudification. En plus de créer des contenus à caractère sexuel de manière non consentis, certains proposent des options de mises en scène particulièrement dérangeantes, comme « viol dans une chambre » ou « menace au couteau », qui montre un homme tenant une lame sous la gorge d’une femme.

Qui est derrière ce réseau d’applications interdites ?

D’après l’enquête de Wired, les programmes sont créés par des développeurs chinois et une entité basé à Hong Kong appelée KeLing Technology Limited. Elle n’a pas répondu aux multiples demandes des journalistes, mais aurait effacé ses liens publics avec les outils de « deepfake » après avoir été contactée. Pour Paul Bouchaud, « il s’agit d’une opération organisée et à vocation commerciale », les fonctionnalités de nudification étant payantes.

Lire aussi – Le Play Store se débarrasse de 224 applications piégées par une arnaque publicitaire

« Un seul opérateur gère des centaines d’applications et de domaines éphémères, dissimulés pour passer la validation de l’App Store et diffusant des dizaines de milliers de publicités Meta sous de faux noms de payeurs », poursuit-il. Apple et Google ont déjà supprimé une bonne partie des applications incriminées, mais il en reste encore au moment de publier cet article.

Par l’intermédiaire d’un porte-parole, Apple rejette la faute sur les développeurs de ces programmes : « Nous examinons chaque application avant sa publication, et ces applications étaient conformes à nos règles au moment de cet examen. Une fois l’approbation obtenue, leurs développeurs ont modifié le site web dont l’application tire son contenu, remplaçant ce que nous avions approuvé par du contenu pornographique, et ont assuré la promotion de l’application via des publicités pornographiques hébergées sur une plateforme tierce ».

De son côté, Meta a également retiré les publicités associées au réseau, mais pas que. L’entreprise a par la suite relié 11 600 comptes publicitaires, plus de 4 700 pages professionnelles, 5 200 utilisateurs et 15 000 pages à ce dernier. Des mesures ont été prises à leur encontre, tandis que la pub diffusée par 209 applications sur les plateformes du groupe a été bloquée.