Un professeur d'EPS s'est servi d'un outil IA pour générer un message haineux avec la voix de son proviseur dans le but de lui faire perdre son poste. Il avait presque réussi, mais depuis, tout l'établissement subit les conséquences.

La création de deepfakes n'a jamais été aussi facile. La puissance grandissante de l'intelligence artificielle, couplée à sa disponibilité auprès du grand public, mettent la création de fausses vidéos ou de faux enregistrements à la portée de tous. Parmi les fraudes relevées, celles qui utilisent la voix des gens que l'on connait ont le vent en poupe. Plus simple à mettre en place, elles permettent de soutirer de l'argent en imitant les proches de la victime par exemple. Malheureusement, elles ne sont pas cantonnés à la sphère privée.

Les deepfakes audio s'invitent de plus en plus dans le monde du travail, soit pour tenter d'arnaquer les employés d'une entreprise, soit pour nuire à un collègue. C'est ce qui est arrivé à Eric Eiswert, principal du lycée de Pikesville dans le Maryland aux États-Unis. Début 2024, un enregistrement sonore de ce dernier circule sur les réseaux sociaux. On l'entend proférer des remarques racistes et antisémites. Il a beau nier en être l'auteur, l'homme est suspendu le temps de l'enquête. Rapidement, les policiers vont s'apercevoir que le coupable n'est pas celui que l'on croit.

Un enseignant utilise l'intelligence artificielle pour imiter la voix de son proviseur afin qu'il perdre son poste

Parmi le personnel du lycée, Billy Burke, à la tête du syndicat représentant le proviseur accusé, suggère que le message pourrait avoir été créé grâce à l'intelligence artificielle. Une piste que suit déjà les autorités en notant qu'il présente certaines caractéristiques étranges : le ton de la voix est monocorde, il n'y a étonnement aucun bruit de fond et les temps de pause ou de respiration ne sont pas du tout naturels. Après analyse par différents experts et outils spécialisés, il s'avère qu'en effet, l'audio a été généré de toutes pièces. Reste désormais à trouver le coupable et son mobile.

Lire aussi – IA : créer un deepfake vous enverra bientôt en prison pour longtemps

Il ne faut pas longtemps pour démêler ce qu'il s'est réellement passé. Dazhon Darien, 31 ans, est au moment des faits professeur d'EPS et directeur sportif au lycée de Pikesville. Il a une très bonne raison d'en vouloir au principal Eiswert puisque ce dernier est à l'origine d'une enquête à son encontre. L'enseignant est accusé d'avoir détourné une partie des fonds de l'établissement pour donner environ 2 000 $ à l'une de ses connaissances, également entraîneur au lycée.

Une adresse mail et un numéro de téléphone associé permettent de remonter jusqu'à lui et d'en faire le suspect numéro un dans l'affaire. Dazhon Darien est finalement arrêté à l'aéroport de Baltimore parce qu'il détient une arme à feu sur lui. Inculpé sous plusieurs chefs d'accusation en lien avec le faux message généré par IA, il a été libéré après paiement d'une caution. En attendant son éventuel procès, le lycée de Pikesville doit faire face à des répercussions allant bien au-delà de l'envie de vengeance initiale.

Le faux enregistrement audio créé grâce à l'IA bouleverse bien plus de monde que la victime visée à l'origine

Si Dazhon Darien, en admettant que c'est bien lui le coupable, voulait “simplement” faire licencier le principal, c'est tout l'établissement qui s'est retrouvé bouleversé. Les enseignants croyant que le message était authentique pensaient que le lycée cachait des dispositifs d'enregistrement. Certains allaient même jusqu'à passer des coups de fil dans leur voiture pour être sûr d'être à l'abri. Eric Eiswert a reçu de très nombreux appels et messages de haine suite aux propos qu'il n'a jamais tenu, de même que Billy Burke, celui qui a émis l'hypothèse de l'IA.

Parents d'élèves comme étudiants ont également inondé le standard d'appels, empêchant celles et ceux qui avaient besoin de joindre le lycée d'être entendu. Les perturbations sont encore présentes à l'heure actuelle. Dazhon Darien a déjà présenté sa démission, effective au 30 juin cette année.

De son côté, le proviseur est toujours suspendu et ne reprendra pas ses fonctions avant la rentrée prochaine au plus tôt. Cette histoire démontre que les dangers de l'IA générative sont bien réels, surtout celles qui imitent la voix. Ce n'est pas pour rien qu'OpenAI refuse pour l'instant de diffuser son outil capable de le faire avec quelques secondes d'enregistrement.

Source : The Baltimore Banner