Facebook est désormais capable de déduire qui a créé un deepfake
Facebook a développé une intelligence artificielle capable de non seulement détecter un deepfake, mais également de retrouver la trace de son créateur. Grâce à un système de modèles implémentés durant l’entraînement, l’IA peut repérer les deepfake créés selon la même méthode et, ainsi, remonter à la source.
Le deepfake est la nouvelle technologie qui fait trembler les plus grands. De nos jours, grâce à des applications disponibles pour le grand public, il est possible de berner les plus attentifs en remplaçant le visage d’une personne par un autre. Les implications et risques sont nombreux et pour le moins sérieux, aussi les grandes entreprises et scientifiques cherchent désormais des moyens d’éviter le pire. Facebook s’est lui-même donné cette mission, et s’est pour cela associé à la Michigan State University.
Le résultat de cette collaboration est on ne peut plus remarquable. En effet, l’IA développée par les chercheurs ne se contente pas de détecter la présence d’un deepfake dans une vidéo. Elle est également capable de retrouver la trace de son créateur. Plus précisément, elle peut dire quel modèle a été utilisé pour créer la supercherie, ce qui peut, avec les bonnes informations en main, remonter à la source de sa publication.
Sur le même sujet : Deepfake — cette IA va rendre le doublage de films beaucoup plus crédible
Facebook peut dire qui a créé un deepfake
La technologie « repose sur la découverte des modèles uniques derrière le modèle d’IA utilisé pour générer un seul deepfake », expliquent les chercheurs. « Nous commençons par l’attribution d’images et travaillons ensuite à la découverte des propriétés du modèle qui a été utilisé pour générer l’image. […] En généralisant l’attribution d’images à la détection dans la base de données, nous pouvons déduire plus d’informations sur le modèle génératif utilisé pour créer un deepfake ». Ce qui veut donc dire que l’IA analyse un deepfake qui utilise un modèle qu’elle ne connaît pas, elle ne détectera peut-être pas sa présence.
Malgré ce défaut, la technologie présente de nombreuses qualités. Elle est notamment capable de repérer plusieurs deepfake appartenant à la même catégorie de modèles et, de cette façon, déduire qu’ils proviennent d’une seule et même source. Pour ce faire, elle analyse « l’empreinte » de la vidéo. Tout comme les photographies qui sont prises avec différents appareils, configurés de diverses manières, les deepfake sont créés selon un système de paramètres qui leur est propre. C’est ce dernier qui les rend uniques et donc, par définition, retraçables.
Source : Facebook
