Voici comment OpenAI tente de reprendre la main face aux dérives de Sora, son générateur de vidéos ultra-réalistes

L’application Sora d’OpenAI continue de faire parler d’elle. Capable de générer des vidéos hyperréalistes à partir d’un simple texte, elle a aussi permis la création de nombreux deepfakes non désirés. Face aux dérives, l’entreprise introduit enfin de nouveaux outils pour redonner le contrôle aux utilisateurs.

Développé par OpenAI, Sora est un outil d’intelligence artificielle capable de générer des vidéos ultra-réalistes à partir d’un simple texte ou d’une image. Présenté comme un moyen de “transformer les idées en séquences cinématiques”, il est disponible depuis peu sur iPhone au Canada et aux États-Unis, où il a rapidement grimpé en tête des téléchargements. Mais derrière cette prouesse technologique se cache aussi une dérive : des utilisateurs ont commencé à créer des vidéos de personnes réelles sans leur accord, grâce à une fonction appelée « cameo », qui permet d’intégrer le visage d’autrui dans une vidéo.

Certains internautes ont ainsi détourné la fonctionnalité pour créer des vidéos trompeuses, parfois à caractère politique ou diffamatoire. Ces détournements rappellent la montée des deepfakes, ces vidéos synthétiques capables d’imiter à la perfection un visage ou une voix. D’après un rapport publié fin 2024, ces images truquées sont désormais si réalistes qu’elles peuvent duper les systèmes de reconnaissance faciale et exposer les données personnelles des utilisateurs à des cyberattaques sophistiquées. Une menace qui inquiète autant les experts en cybersécurité que les entreprises du numérique.

OpenAI ajoute des restrictions pour encadrer les vidéos générées avec Sora

Face aux critiques, OpenAI introduit un nouvel outil de sécurité baptisé “Cameo Preferences”. Désormais, chaque utilisateur peut définir des restrictions précises : interdire les vidéos à caractère politique, bloquer certains mots ou thèmes, ou limiter les usages commerciaux de son image. Ces paramètres s’activent dans le menu edit cameo > cameo preferences > restrictions. L’entreprise promet aussi de rendre le filigrane des vidéos plus visible et plus difficile à supprimer, pour éviter les manipulations.

OpenAI indique que d’autres améliorations sont en préparation pour renforcer la protection des utilisateurs. La société veut rendre ses filtres plus stricts et ses contrôles plus transparents, tout en maintenant la liberté créative des utilisateurs honnêtes. Sora ouvre ainsi des perspectives inédites pour la création vidéo, mais rappelle aussi les défis majeurs que pose l’intelligence artificielle : assurer la sécurité des données personnelles tout en encadrant l’usage de ces outils toujours plus puissants.