Les deepfakes pornos créés par l’IA font de plus en plus de victimes, les cas de chantages explosent

Le phénomène du chantage au deepfake, ou sextortion, est en pleine recrudescence, et le Federal Bureau of Investigation étasunien l’a bien remarqué. Il se développe à tel point que l’agence a publié une page spéciale sur son site pour informer le public.

Les premiers deepfakes générés à l’aide de l’IA ont commencé à fleurir sur la toile dès 2017. Depuis, les Intelligences artificielles génératives se sont démocratisées, et les outils de création de contenu tels que Midjourney, sont toujours plus nombreux. Le FBI affirme que le mois d’avril 2023 a vu une augmentation notable du nombre de victimes de chantage au deepfake.

À lire — Deepfake : la demande pour les montages pornographiques explose, des pubs apparaissent sur Facebook

Certains internautes très mal intentionnés s’aident d’outils d’Intelligence artificielle pour faire des montages pornographiques à partir de photos ou de vidéos publiées par leur victime sur les réseaux. Si ces personnes malveillantes sont motivées par l’appât du gain, elles envoient leurs « créations » directement à leurs victimes à des fins de « sextorsion » ou de harcèlement. Selon le FBI, elles commettent ce délit parfois par pur stupre. Elles veulent obtenir de véritables « nudes » contre la promesse de ne jamais mettre les deepfakes en ligne.

Les détournements d’image et les chantages ont augmenté

À tous ceux qui veulent ne veulent pas se retrouver dans une situation identique, le Bureau donne un conseil de bon sens : ne publiez pas de photos de vous sur Internet. C’est bien plus facile à dire qu’à faire, dans un monde où l’on estime que, chaque jour sur WhatsApp, les utilisateurs échangent près de 7 milliards d’images.

La solution contre les chantages et le harcèlement au deepfake pourrait être légale. Il existe une loi en France qui stipule que le fait de « publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement est punissable d’un an d’emprisonnement et de 15 000 euros d’amende. Quelle que soit la sévérité de la peine, pour les victimes de ces chantages, le mal est déjà fait. Une fois que les deepfakes sont en ligne, les faire retirer ou empêcher leur diffusion tient de la gageure.