Les images créées par une IA pullulent, mais les identifier sera bientôt plus facile

Avec la multiplication des deepfakes et des IA génératives, il est de plus en plus difficile de séparer les vraies images des fausses informations. Qualcomm s’est associé à Truepic pour implémenter la certification C2PA au sein de l’écosystème Snapdragon. Cette certification permet d’identifier les photos originelles et d’informer des modifications qui y sont apportées, notamment avec de l’IA générative.

Les fausses informations pullulent sur Internet et les réseaux sociaux. Leur recrudescence impacte considérablement la confiance des lecteurs. D’autant qu’il est de plus en plus facile de créer et modifier une image grâce aux intelligences artificielles génératives. Que ce soit Midjourney, Dall-E ou encore Stable Diffusion, de nombreux modèles permettent de créer à partir de simples paramètres écrits une image plus vraie que nature. Photoshop va même jusqu’à intégrer une IA générative pour démocratiser la création d’image.

Lire aussi – OpenAI crée un outil de détection des images générées par son IA, pas de quoi faire disparaître les deepfakes

Le risque d’être envahi par les images non-légitimes, générées par une intelligence artificielle, est d’autant plus grand que ces modèles arrivent dans les smartphones. Nous l’avons remarqué une première fois avec les Pixel 8 et Pixel 8 Pro, lesquels proposent à l’utilisateur de créer un fond d’écran personnalisé à partir de mots-clé. Et nous le verrons dans les prochaines semaines ou prochains mois grâce aux smartphones équipés du Snapdragon 8 Gen 3 de Qualcomm, un SoC compatible avec de nombreux modèles, dont des IA génératives spécialisées dans l’imagerie comme Stable Diffusion.

Les IA génératives d’image arrivent sur smartphone

Un smartphone équipé d’un Snapdragon 8 Gen 3 et de Stable Diffusion est capable de créer une image à partir de mots-clé en moins d’une seconde. Conscient que cela pose un problème éthique, Qualcomm a annoncé un partenariat avec Truepic, une société spécialisée dans la « sécurité de l’imagerie numérique ». Cela veut dire que la technologie Truepic permet de certifier qu’une image est légitime et qu’une autre a été modifiée, que ce soit manuellement, avec un éditeur d’image, ou automatiquement, en utilisant une intelligence artificielle.

La technologie de Truepic est basée sur un certificat standardisé créé par C2PA (Coalition for Content Protection and Authenticity). Dans ce regroupement, vous retrouvez notamment Microsoft, Adobe, Intel, arm, ainsi qu’une grande partie des acteurs liés à la photo, la musique et la vidéo. L’idée du C2PA est de créer un certificat qui ajoute de nouvelles métadonnées à des contenus, notamment des EXIF additionnels pour les images (créées ou générées) et les photos (originales ou modifiées).

Le certificat C2PA génèrent des données d’authenticité et de modification

Dans ces EXIF, vous retrouvez des informations classiques (appareil photo, localisation, date et heure, résolution d’origine). Mais vous en retrouvez d’autres moins classiques : le nom du créateur, ainsi que toutes les modifications qui y ont été apportées, dont celles avec de l’intelligence artificielle. Si un filtre a été appliqué, ce sera renseigné. Si un zoom-out a été utilisé, ce sera également indiqué. Le but est simple : quand vous ouvrez une photo certifiée C2PA, vous pouvez consulter son authenticité, son origine et les modifications qui y ont été apportées, en cliquant sur une icône apparaissant à l’écran.

Le but de Qualcomm est de participer au déploiement de ce certificat standardisé qui permettra d’améliorer la confiance entre ceux qui produisent du contenu, quel que soit sa nature, et ceux qui consomment ce contenu. Est-ce suffisant aujourd’hui? Non. Parce que l’écosystème compatible est restreint. En effet, le nombre de logiciels et de systèmes d’exploitation compatibles ne couvre pas tous les créateurs et tous les consommateurs de contenu. Résultat : dès que vous sortez de l’écosystème, les données du certificat et des modifications sont indisponibles, voire perdues. Mais ce partenariat va certainement dans le bon sens.