TikTok s’attaque aux deepfakes avec un outil qui détecte les vidéos utilisant notre visage

Pour lutter contre les deepfakes, TikTok met au point une fonctionnalité permettant aux utilisateurs de détecter les vidéos dans lesquelles apparaît leur visage.

L'essor de l'IA a rendu la création de deepfakes à la portée de n'importe qui. Les réseaux sociaux et plateformes de partage de vidéo doivent s'adapter à cette tendance pour protéger les utilisateurs, qui ne veulent logiquement pas que leur visage soit utilisé sans leur autorisation, surtout dans des contenus qui sont généralement malveillants. TikTok semble sur le coup et a commencé à tester un outil de détection, lui aussi basé sur l'IA.

Selon Matt Navarra, analyste spécialisé dans les réseaux sociaux, TikTok US a commencé à déployer cette fonctionnalité auprès de créateurs aux États-Unis. Si son efficacité est confirmée, on peut penser que le service la rendra disponible pour l'ensemble des utilisateurs à terme. Elle permet d'obtenir une liste des vidéos publiées qui utilisent ce qui peut ressembler à son visage afin de protéger son image.

TikTok utilise l'IA pour faire la chasse aux deepfakes

La première étape pour avoir recours à cette option est de confirmer son identité via Jumio, une société de vérification d'identité en ligne. Il faut bien sûr prouver qu'on est légitime à protéger un visage afin d'éviter les abus. Une fois cette étape accomplie, l'IA de TikTok va scanner les vidéos publiées sur la plateforme à la recherche de votre visage, fourni lors de la procédure de vérification d'identité.

TikTok va ensuite fournir à l'utilisateur une liste de tous les contenus identifiés comme ayant recours à son image. Il peut ainsi tous les vérifier manuellement et signaler ceux qui exploitent son visage sans son autorisation. Il n'est par contre pas clair sous quel délai et quelles conditions TikTok peut supprimer les vidéos utilisant les deepfakes. Sont-ils retirés automatique dès le signalement ? Y a-t-il un contrôle humain pour s'assurer que la demande est justifiée ?

Les personnalités publiques, comme les créateurs de contenu, les politiques, les acteurs ou les sportifs sont plus sujets à être victime de deepfakes. Mais n'importe qui peut en être la cible. Espérons que cet outil sera mis plus largement à disposition dans un futur proche.