X prétend avoir enfin bloqué les deepfakes dénudées générés par Grok… vraiment ?

Dans un communiqué publié via son compte dédié à la sécurité, X (anciennement Twitter) a annoncé à avoir pris des mesures pour enrayer le phénomène des deepfakes sexuels générés par Grok. Seulement voilà : non seulement sommes-nous encore de véritables restrictions globales, mais il est en plus très facile de contourner les dernières mises en place.

Depuis plusieurs jours, X (anciennement Twitter) se trouve au cœur d'une gigantesque polémique. Oui, encore. Depuis quelque temps, la plateforme d'Elon Musk permet en effet de générer des images pornographiques à l'aide de son IA Grok. Rapidement, les utilisateurs s'en sont servis pour créer des deepfakes dénudées de femmes sans leur consentement. Pour limiter les dégâts, X a finalement consenti a placé un premier garde-fou. Mais ce dernier était bien maigre, puisqu'il se contentait de limiter la génération d'images aux comptes disposant d'un abonnement payant.

Une mesure jugée bien insuffisante pour de nombreuses associations et gouvernements. Les autorités britanniques sont alors montées au créneau, en menaçant d'interdire par la loi la création de deepfakes par IA. Pendant ce temps, Elon Musk a assuré sur son compte personnel ne pas être au courant des dérives des utilisateurs de son IA Grok. Finalement, X a publié hier soir un communiqué via son compte Safety, dans une ultime tentative de sauver les meubles.

Sur le même sujet – Vous êtes choqués par les utilisateurs de X qui dénudent les femmes grâce à l’IA ? Ce n’est que le début, d’après ces experts

Malgré les promesses de X, les deepfakes porno par Grok restent possibles

“Nous avons mis en place des mesures techniques afin d'empêcher le compte Grok de permettre la modification d'images de personnes réelles portant des vêtements révélateurs, tels que des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants”, écrit X dans son communiqué. En parallèle, le réseau social assure également avoir implémenté un système de géoblocage interdisant la génération d'images dénudées dans les pays aux lois plus strictes sur le sujet.

Mais cela fonctionne-t-il vraiment ? Apparemment non, d'après les tests menés par nos confrères de The Verge. En effet, plusieurs journalistes affirment être parvenus à contourner les fameuses restrictions sans grande difficulté, et ce, même à l'aide d'un compte gratuit se trouvant au Royaume-Uni. Compte tenu de la rapidité à laquelle les internautes s'échangent des astuces pour générer des images toujours plus extrêmes, autant dire que les supposées mesures promises par X s'annoncent bien inutiles.

Source : The Verge