Pour avoir créé des deepfakes de leurs camarades de classe, 15 adolescents sont condamnés par la justice

Une cour de justice a prononcé des peines à l'encontre de 15 mineurs accusés d'avoir créé des deepfakes de leur camarades de classe grâce à l'intelligence artificielle. Ils devront notamment suivre des cours sur son usage responsable.

N'importe qui peut facilement créer une photo ou une vidéo de vous totalement fictive, mais extrêmement réaliste, ce qu'on appelle un deepfake. Un constat effrayant dû à la démocratisation des outils d'intelligence artificielle générative. Ils sont souvent utilisés dans le cadre d'arnaques aux conséquences parfois très onéreuses, mais également dans la pornographie. Et pas besoin d'être une célébrité pour être la cible de ce genre de contenus, tout le monde peut théoriquement en faire les frais.

Dans un établissement scolaire espagnol, plusieurs jeune filles voient ainsi proliférer des photos montrant leur visage sur le corps nu d'autres femmes. Une enquête démarre l'an dernier après les plaintes de plusieurs parents, des mois après le début des faits. Les victimes n'osaient rien dire. “De nombreuses filles étaient complètement terrifiées et subissaient d'énormes crises d'angoisse parce qu'elles souffraient en silence. Elles se sentaient mal et avaient peur d'en parler et d'être blâmées pour cela“, raconte une mère de famille. Les coupables sont rapidement arrêtés.

15 mineurs sont condamnés pour avoir créé des deepfakes de leur camarades de classe

Au total, 15 adolescents âgés entre 13 et 15 ans comparaissent devant un tribunal. Il est prouvé lors du procès que “les mineurs ont utilisé des applications d'intelligence artificielle pour obtenir des images manipulées de mineures, de telle sorte que les visages originaux des filles, obtenus à partir des profils de leurs réseaux sociaux, ont été superposés à des images d’autres corps féminins nus. Les photographies manipulées ont ensuite été partagées via deux groupes WhatsApp“.

La loi espagnole ne permet pas d'inculper des jeunes de moins de 14 ans, mais les accusés ont été reconnus “responsables de vingt délits de pédopornographie et vingt délits contre l'intégrité morale, imposant à chacun d'eux une mesure de liberté surveillée pendant un an“, avec une obligation de “recevoir une formation émotionnelle et sexuelle, sur l'utilisation responsable des technologies de l'information et de la communication [dont l'IA, ndlr], et une sensibilisation à l'égalité et au genre“.

Source : The Guardian