Selon une étude publiée sur le site scientifique PLOS, les deepfakes en vidéo ont des conséquences cognitives plus fortes qu’on ne l’imagine.

Dans une étude intitulée « Face/Off : changer le visage des films avec les deepfakes » (Face/Off : Changing the face of movies with deepfakes), une équipe de chercheurs se penche sur les effets psychologiques et mentaux qu’ont les deepfakes sur les personnes qui les visionnent. D’après les scientifiques, « les deepfakes consistent le plus souvent en des vidéos dans lesquelles un visage artificiel a été superposé au visage d’une autre personne, ce qui donne un enregistrement très convaincant d’une personne faisant ou disant quelque chose qu’elle n’a jamais fait ».

À lire — Une IA génère une bande-annonce de film pour enfants, le résultat est terrifiant

Cette technique est fréquemment utilisée à des fins malveillantes, pour faire du chantage avec des deepfakes pornographiques, notamment. L’IA permet à tout un chacun de créer ce type de médias extrêmement photoréalistes, et le phénomène prend une telle ampleur qu’aux yeux de nombreux observateurs, l’utilisation de cette technologie devrait être mieux encadrée.

Les deepfakes de films facilitent la création de faux souvenirs

L’étude portant sur 436 participants semble leur donner raison. Le protocole impliquait de leur faire visionner plusieurs films « deepfakés » ainsi que des titres « non trafiqués ». Ils ont ainsi eu droit à une version de « Matrix » dans laquelle le rôle de Neo était tenu par Will Smith, ou encore un « Shining » dont le protagoniste était Brad Pitt, par exemple. Les participants devaient ensuite répondre à un questionnaire, et à leur grand étonnement, les chercheurs ont constaté « que les participants créaient facilement de faux souvenirs des remakes, 49 % d’entre eux en moyenne croyant que chaque remake était réel ». Mieux encore, 18,75 % des participants estimaient que le deepfake était meilleur que l’œuvre originale.

Les scientifiques tempèrent toutefois le pouvoir de suggestion qu’on prête aux deepfakes. « Bien que les deepfakes aient amené les gens à former de faux souvenirs à des taux assez élevés, nous avons obtenu les mêmes effets en utilisant un simple texte. En substance, cette étude montre que nous n’avons pas besoin de progrès techniques pour déformer la mémoire, nous pouvons le faire très facilement et efficacement en utilisant des moyens non techniques ».