Voici comment OpenAI tente de reprendre la main face aux dérives de Sora, son générateur de vidéos ultra-réalistes

L’application Sora d’OpenAI continue de faire parler d’elle. Capable de générer des vidéos hyperréalistes à partir d’un simple texte, elle a aussi permis la création de nombreux deepfakes non désirés. Face aux dérives, l’entreprise introduit enfin de nouveaux outils pour redonner le contrôle aux utilisateurs.

OpenAI Sora

Développé par OpenAI, Sora est un outil d’intelligence artificielle capable de générer des vidéos ultra-réalistes à partir d’un simple texte ou d’une image. Présenté comme un moyen de “transformer les idées en séquences cinématiques”, il est disponible depuis peu sur iPhone au Canada et aux États-Unis, où il a rapidement grimpé en tête des téléchargements. Mais derrière cette prouesse technologique se cache aussi une dérive : des utilisateurs ont commencé à créer des vidéos de personnes réelles sans leur accord, grâce à une fonction appelée « cameo », qui permet d’intégrer le visage d’autrui dans une vidéo.

Certains internautes ont ainsi détourné la fonctionnalité pour créer des vidéos trompeuses, parfois à caractère politique ou diffamatoire. Ces détournements rappellent la montée des deepfakes, ces vidéos synthétiques capables d’imiter à la perfection un visage ou une voix. D’après un rapport publié fin 2024, ces images truquées sont désormais si réalistes qu’elles peuvent duper les systèmes de reconnaissance faciale et exposer les données personnelles des utilisateurs à des cyberattaques sophistiquées. Une menace qui inquiète autant les experts en cybersécurité que les entreprises du numérique.

OpenAI ajoute des restrictions pour encadrer les vidéos générées avec Sora

Face aux critiques, OpenAI introduit un nouvel outil de sécurité baptisé “Cameo Preferences”. Désormais, chaque utilisateur peut définir des restrictions précises : interdire les vidéos à caractère politique, bloquer certains mots ou thèmes, ou limiter les usages commerciaux de son image. Ces paramètres s’activent dans le menu edit cameo > cameo preferences > restrictions. L’entreprise promet aussi de rendre le filigrane des vidéos plus visible et plus difficile à supprimer, pour éviter les manipulations.

OpenAI indique que d’autres améliorations sont en préparation pour renforcer la protection des utilisateurs. La société veut rendre ses filtres plus stricts et ses contrôles plus transparents, tout en maintenant la liberté créative des utilisateurs honnêtes. Sora ouvre ainsi des perspectives inédites pour la création vidéo, mais rappelle aussi les défis majeurs que pose l’intelligence artificielle : assurer la sécurité des données personnelles tout en encadrant l’usage de ces outils toujours plus puissants.


Réagissez à cet article !

Demandez nos derniers articles !

Voici à quoi ressemblent les iPhone 18 et iPhone Air 2, confirmant une nouveauté pour l’appareil photo

De nouvelles maquettes de l’iPhone 18 et de l’iPhone Air 2 ont fuité. Elles révèlent la présence d’un second capteur photo au dos de ce dernier. Apple a chamboulé son…

GrapheneOS accuse Google de sabotage et d’octroyer des avantages injustes à ses Pixel

GrapheneOS s’insurge contre les méthodes de Google, qui obligerait les constructeurs tiers à abandonner la compatibilité de leurs smartphones avec le fork Android. Il s’étonne aussi des fonctionnalités et mises…

Percy Jackson et les Olympiens : la saison 3 de la série fantastique vient d’arriver sur Disney+, vite !

Bonne nouvelle pour les fans de la série Percy Jackson et les Olympiens : la saison 3 vient de sortir à peine un an après la deuxième. Et si vous…

Black Friday DJI Mini 5 Pro Fly More Combo : chute de prix et Dji Osmo Pocket 3 offert, attention offre canon !

Vous aimez faire des vidéos mais votre matériel est vieillissant ou inexistant ? Nous avons trouvé une super offre pour vous équiper à la fois du drone DJI Mini 5…

JBL Live 770NC à 76,99 € au lieu de 179,99 € : le prix de l’excellent casque avec réduction de bruit adaptative fond comme neige au soleil !

Le Black Friday a commencé sur Amazon, et les bons plans sont à la hauteur de l’attente. Vous cherchez un bon casque Bluetooth avec une excellente autonomie et une réduction…

Xiaomi Smart Band 11 : on a pris en main ce nouveau bracelet connecté, voici nos premières impressions

Xiaomi a officialisé plusieurs produits lors de sa conférence organisée cette semaine à Paris à l’occasion du lancement mondial de sa toute nouvelle série : la gamme Xiaomi 18 Pro. Parmi…

Google Chrome sans tracker et sans IA ? C’est possible et gratuit, voici comment

Vous n’êtes probablement pas seul à être exaspéré face à l’intégration abusive de Gemini dans Chrome ainsi que les innombrables trackers qui communiquent en permanence avec Google. Si, malgré tout,…

30 € pour un casque JBL avec 76 heures d’autonomie : Amazon casse le prix du Tune 530BT pour le Balck Friday

JBL propose de bons casques à petit prix, et le Tune 530BT en fait partie. Déjà proposé à 60 € en temps normal, il passe à moitié prix pour le…

Black Friday Shark SpeedStyle Pro FLEX : grosse promo sur le sèche-cheveux avec 3 accessoires au choix

La marque Shark est l’un des spécialistes de l’électroménager et plus particulièrement des produits dédiés à la beauté. Lisseurs, masque LED, brosses coiffantes… Il y en a pour tous les…

GTA 6 fait planter les PS5, les joueurs sont dégoûtés

Certains joueurs sont dans l’incapacité de jouer à GTA 6 sur leur PS5, qui plante en boucle. Le code d’erreur CE-108255-1 s’affiche alors à l’écran. “GTA 6 se joue mieux…