OpenAI crée un outil de détection des images générées par son IA, pas de quoi faire disparaître les deepfakes

Mira Murati, directrice technique d’OpenAI, a annoncé que sa compagnie est en train de tester un nouvel outil de détection des images créées par une intelligence artificielle.

L’avènement des intelligences artificielles génératives a permis à des millions d’internautes d’accéder à des outils de création d’images plus ou moins réalistes, et en moins d’un an, des programmes d’IA générative tels que DALL-E ou encore Midjourney ont permis d’inonder la toile de millions de créations synthétiques parfois très, voire trop, réalistes. Le problème est si grave qu'une étude scientifique affirme que l’intelligence artificielle et les deepfakes pourraient même déformer nos souvenirs.

Selon la co-créatrice de ChatGPT, la technologie de détection des images créées par une IA ne serait pas loin d’être infaillible, « fiable à 99 % ». C’est un score plus qu’honorable, mais le détecteur de contenu créé par l’IA de la compagnie a une faiblesse, et pas des moindres : il ne peut repérer les « fakes » que s’ils ont été conçus avec DALL-E. Bien évidemment, le modèle basé sur GPT-3 est très populaire, mais en réalité, les images créées avec cette IA multimodale comptent pour moins de 6 % des 15 milliards d’images générées avec cette technologie depuis ses débuts.

OpenAI travaille sur un détecteur d'images créées par l'IA qui a un gros point faible

Selon le site EveryPixel, « plus de 15 milliards d’images auraient été créées à l’aide d’algorithmes de conversion de texte en image » en un an. Par comparaison, il aura fallu 150 ans aux photographes pour capturer autant de clichés, de 1826 à 1975, exactement. Les deepfakes et les images synthétiques ont encore de beaux jours devant eux, d’autant plus que le public a toujours plus le choix des armes. Des services aussi variés que Midjourney, DALL-E, Stable Diffusion, et même Microsoft Paint, proposent de générer des images grâce à l’IA.

D’autres grands noms de la technologie s’attachent à proposer des labels et des marquages visant à déterminer l’origine d’un contenu. Adobe est particulièrement menacé par la popularité de ces IA génératives. L’éditeur de Photoshop a donc lancé un symbole universel pour repérer les images faites par l’IA, et aimerait que tous les acteurs du marché l’adoptent.

Source : Bloomberg