Microsoft s’attaque aux auteurs de deepfake en livrant leurs vrais noms
Microsoft vient de frapper fort dans sa lutte contre l'utilisation abusive de l'intelligence artificielle. L'entreprise a dévoilé l'identité de quatre individus accusés d'avoir exploité illégalement son service Azure OpenAI pour générer des deepfakes à caractère sexuel, notamment de célébrités.
Microsoft a dévoilé que des personnes, originaires d'Iran, du Royaume-Uni, de Hong Kong et du Vietnam, seraient des membres clés d'un réseau criminel international baptisé Storm-2139 par Microsoft. Selon l'entreprise, ce groupe aurait utilisé des clés API volées à plusieurs clients de Microsoft pour accéder au service Azure OpenAI et contourner les garde-fous mis en place pour empêcher la création de contenus préjudiciables.
L'unité des crimes numériques de Microsoft avait initialement déposé une plainte contre dix « John Doe » (personnes non identifiées) pour violation de la loi américaine et des conditions d'utilisation des services d'IA générative. Cette plainte vient d'être amendée pour nommer et identifier spécifiquement quatre individus : Arian Yadegarnia (alias « Fiz »), Alan Krysiak (alias « Drago »), Ricky Yuen (alias « cg-dot ») et Phát Phùng Tấn (alias « Asakuri »).
Lire également – Copilot trahit Microsoft, l’IA révèle comment pirater Windows 11
Un réseau criminel sophistiqué
L'enquête de Microsoft a révélé une organisation complexe au sein de Storm-2139. Le groupe serait composé de créateurs, qui développent les outils malveillants permettant de contourner les protections des services d'IA, de fournisseurs qui modifient et revendent ces outils à différents prix, et d'utilisateurs finaux qui s'en servent pour générer du contenu synthétique illicite.
Les accusés auraient non seulement exploité des identifiants clients obtenus illégalement, mais aussi modifié les capacités des services d'IA pour les revendre à d'autres acteurs malveillants. Ils auraient fourni des instructions détaillées sur la façon de générer du contenu préjudiciable, notamment des images intimes non consensuelles de célébrités et d'autres contenus sexuellement explicites.
Pour rappel, Microsoft a obtenu une ordonnance du tribunal lui permettant de saisir un site web crucial pour les opérations du groupe criminel, perturbant ainsi sa capacité à commercialiser ses services illégaux. Steven Masada, conseiller juridique adjoint de l'unité des crimes numériques de Microsoft, souligne l'importance de démasquer ces individus et de mettre en lumière leurs activités malveillantes pour établir un précédent dans la lutte contre l'utilisation abusive des technologies d'IA.
