Des deepfakes suggestifs générés par l’IA Grok ont été partagés en ligne sans consentement. Face à l’indignation croissante, l’Union européenne réagit. Une enquête est ouverte contre xAI, la société d’Elon Musk à l’origine du système.

Les intelligences artificielles capables de générer des images ou des vidéos sont de plus en plus utilisées dans le grand public. En parallèle, les usages dérivent rapidement vers des contenus problématiques. Malgré les alertes, les garde-fous restent limités. Certaines plateformes autorisent la création de scènes explicites, parfois sans contrôle. Ces outils, simples à utiliser, posent des questions concrètes sur la protection des individus, en particulier lorsque l’image d’une personne est utilisée sans autorisation.

L’intelligence artificielle Grok, développée par la société xAI d’Elon Musk, fait partie des systèmes visés. Depuis plusieurs mois, cet outil intégré au réseau social X permettait de générer des images à caractère sexuel. Une fonction nommée « mode spicy » autorisait la création de contenus réservés aux adultes. Rapidement, des internautes ont commencé à générer des images dénudées de femmes et de mineurs. En réaction, la firme a restreint l’usage de cette fonctionnalité aux abonnés Premium. Mais selon plusieurs spécialistes, ces mesures sont loin d’être suffisantes pour endiguer le phénomène.

L’Union européenne ouvre une enquête contre xAI après la diffusion d’images sexuellement explicites créées par Grok

Comme le rapporte Reuters, la Commission européenne a officiellement lancé une enquête contre xAI, la société à l’origine de Grok. L’objectif est de déterminer si les fonctionnalités de cette IA ont été déployées en respectant les règles du Digital Services Act. Cette législation impose aux grandes plateformes de limiter la diffusion de contenus illégaux. Le lancement de l’enquête fait suite à une série d’alertes venues du Royaume-Uni, des Philippines et d’Indonésie. Certains de ces pays ont même temporairement bloqué l’accès à ce programme avant son retour avec des filtres géographiques.

Les autorités européennes considèrent que les contenus créés par Grok relèvent d’un traitement illégal de l’image, notamment dans le cas de deepfakes sexuels. Si une infraction est confirmée, xAI risque une amende pouvant atteindre 6 % de son chiffre d’affaires mondial. Cette nouvelle procédure s’ajoute à une autre enquête déjà en cours depuis fin 2023 concernant les algorithmes de X. Pour Bruxelles, l’affaire illustre les dangers des IA génératives mal encadrées. Elle relance aussi les tensions entre l’Europe et les États-Unis, où la régulation des grandes entreprises technologiques est toujours un sujet sensible.