Grok a frôlé la suppression de l’App Store pour une raison qui dérange

Grok a frôlé la suppression de l'App Store après une mise en demeure discrète d'Apple. xAI a dû soumettre plusieurs correctifs avant d'obtenir le feu vert. La modération reste pourtant imparfaite, et les contournements existent toujours.

Les intelligences artificielles génératives ont transformé le paysage des contenus numériques. En parallèle, les dérives se multiplient. Des deepfakes sexualisés circulent sur les grandes plateformes, souvent créés sans consentement. Ces usages alimentent un débat croissant sur la responsabilité des développeurs d'IA. Plusieurs pays ont déjà restreint certaines fonctionnalités de ces outils. En Europe, une enquête a été ouverte contre xAI après la diffusion de contenus générés par Grok sur X.

L'IA d'Elon Musk se retrouve de nouveau dans l'œil du cyclone. Depuis plusieurs mois, Grok est pointé du doigt pour ses dérives vers des images inappropriées. Plusieurs révisions de ses paramètres ont déjà été imposées sous la pression des régulateurs et des boutiques d'applications. Apple et Google ont eux-mêmes été épinglés pour avoir hébergé des applications de nudification qui profitaient de ces dérives. Un marché lucratif s'est développé dans l'ombre, au détriment des victimes.

Apple menaçait de retirer Grok de l'App Store à cause de deepfakes sexualisés

Selon NBC News, Apple a discrètement mis en demeure xAI de corriger Grok, sous peine de voir l'application retirée de l'App Store. La firme avait constaté que Grok et son intégration à X violaient ses règles sur les contenus offensants. Un premier correctif soumis par la société a été jugé insuffisant. Des garde-fous plus stricts et un cadre de modération interdisant explicitement la génération de deepfakes ont été exigés. Après plusieurs soumissions successives, une version révisée a finalement été approuvée.

Des sénateurs américains avaient récemment demandé aux deux géants de la tech d'agir plus fermement contre xAI, estimant que ces contenus compromettaient la sécurité des utilisateurs. La démarche d'Apple a été interprétée comme une réponse directe à ces pressions législatives. Malgré les changements, les inquiétudes persistent. Le volume de deepfakes explicites générés par Grok a diminué, mais des utilisateurs parviennent encore à contourner la modération via des formulations détournées. La société affirme interdire les contenus non consentis et dit avoir mis en place des filtres et des mises à jour régulières pour limiter les abus.