Le succès des IA génératives a entraîné l’apparition de deepfakes par centaines sur les réseaux, et cela devient problématique. Tout du moins aux yeux des créateurs de Midjourney, dont les serveurs sont submergés de requêtes en provenance du monde entier.

Midjourney est un chatbot conversationnel qui se propose de créer des illustrations ou encore des photos ultraréalistes en fonction de vos instructions. Si le nombre de requêtes qu’il est possible de lui adresser est normalement limité à 25, nombre de petits malins ont compris qu’il suffit de créer un nouveau compte pour remettre le compteur à zéro. En conséquence, Midjourney a décidé de fermer temporairement l’accès à son offre gratuite.

C’est le président de la compagnie, David Holz qui a annoncé la mesure sur Discord, la messagerie par laquelle il faut passer pour utiliser le service. Il explique avoir pris cette décision « à cause de la combinaison d’une demande extraordinaire et d’abus dans les requêtes ». L’interruption durera « jusqu’à ce que les prochaines améliorations du système soient déployées ». Depuis le déploiement de sa v5, il semblerait que Midjourney soit victime de son succès.

La multiplication des deepfakes pousser Midjourney à restreindre l'accès à son IA

Le Pape François et son fusil à lunette, Barack Obama mange une glace avec Angela Merkel : vous n’avez sans doute pas raté ces images confondantes de réalismes qui démontrent les capacités de génération hallucinantes de cette IA. Le problème, c’est que ces images sont souvent utilisées à mauvais escient par la suite, à des fins de propagande politique notamment. Pire encore, elles permettent de créer des deepfakes porno, totalement dégradants pour les personnes mises en scène.

Cela dit, les abonnés payants pourront continuer à profiter sans entrave de Midjourney. Ils seront bien aise, car la nouvelle version du service est encore plus rapide et permet de créer deux fois plus d’images dans un même laps de temps. Paradoxalement donc, le nombre de deepfakes risque en fait de se multiplier. Sur Twitter, la mise en place de la certification payante a entraîné l’apparition de milliers de faux comptes, rien ne garantit que les abonnés à Midjourney ne vont pas créer encore plus de détournements.