Zao : pourquoi cette appli bluffante de deepfake inquiète tout le monde ?

Zao est une application vous proposant d'incruster votre visage dans des séquences cultes du cinéma ou des séries TV. Depuis vendredi dernier, l'application chinoise fait énormément parler d'elle, car le résultat qu'elle permet d'obtenir est criant de vérité. Mais ses concepteurs ont rapidement dû modifier les conditions d'utilisation, dès lors que l'application conserve toutes les données générées par ses utilisateurs et s'accordait le droit de les transmettre à autrui.

Des vidéos de deepfake générées en quelques secondes

Depuis quelques jours, l’application connaît un succès retentissant. Son IA remplace le visage d’un acteur par le vôtre, le tout en exploitant des scènes mythiques du 7e art ou de jeux vidéo. Il vous suffit pour cela de fournir diverses photos de votre visage et l’application de deepfake se charge du reste. Elle vous incruste alors dans des séquences issues de son propre stock. Vous voilà acteur de séries comme Game of Thrones ou The Big Bang Theory, ou en train d'incarner le personnage principal du jeu Devil May Cry 5. Et vous pouvez même vous retrouver dans la peau de Leonardo DiCaprio. Si le résultat obtenu est particulièrement bluffant, il a de quoi aussi inquiéter les défenseurs de la vie privée.

Dans sa version initiale, Zao se réservait le droit de conserver et d’utiliser le contenu généré par ses utilisateurs. Zao s’accordait en effet un usage « irrévocable, permanent et transférable » des vidéos créées par son application. Une utilisation des données qui ne sont pas sans rappeler la polémique créée par FaceApp en juillet dernier. Face au lever de bouclier des défenseurs des libertés et du droit à l’image, les auteurs de l’application ont finalement fait machine arrière. « Nous comprenons les craintes en matière de vie privée. Nous avons bien reçu les retours des utilisateurs et allons régler les problèmes que nous n’avions pas pris en considération, ce qui prendra un certain temps. », expliquent-ils dans un communiqué.

Zao a revu sa copie, mais en partie seulement

Depuis, Zao a partiellement changé ses conditions d’utilisation : si l’entreprise conserve toujours les données de ses utilisateurs, c’est uniquement pour améliorer son moteur d’incrustation, et non pour les transmettre à autrui. En outre, ses auteurs ont promis d’effacer de ses serveurs le contenu d’un utilisateur dès lors que celui-ci l’a également supprimé de son côté. Tout n’est pas réellement réglé en somme, dès lors que l’entreprise pourra continuer à exploiter pour son propre usage les données de ses utilisateurs. En outre, la facilité et la rapidité avec lesquelles il est possible de changer le visage d’un acteur sont déconcertantes.

Zao est la propriété de Momo, un site de rencontre chinois. L’application est actuellement réservée à la Chine, mais au vu du carton qu’elle est en train de connaître, il y a tout de lieu de croire qu’elle ne tardera pas à débarquer ailleurs dans le monde.

https://twitter.com/AllanXia/status/1168049059413643265?s=20

Source : The Verge