IA : YouTube interdit les deepfakes mettant en scène des victimes de violence

Devant l’émergence de vidéos générées par l’intelligence artificielle où des victimes de violence racontent leur histoire, YouTube les interdit purement et simplement sous peine de sanctions.

YouTube
Crédits : 123RF

Les plateformes d’hébergement de vidéos que sont YouTube ou TikTok, pour ne citer qu’elles, ne sont pas passées à côté de la révolution de l’intelligence artificielle. Que ce soit pour générer un avatar sur le réseau social ou chanter avec la voix de votre artiste préféré, chacune développe des outils pour en exploiter le potentiel. Mais si les services s’y mettent, les créateurs aussi, avec les dérives que cela entraîne. On pense surtout aux fausses chansons générées par IA qui ont d’ailleurs poussé YouTube à mettre en place des mesures de protection des ayants droit.

Sauf que ce sont loin d’être les seuls abus possibles. Certains n’hésitent pas à tomber dans le mauvais goût, voire le carrément morbide. Une tendance se dessine depuis quelques temps sur TikTok ou YouTube, et elle rencontre malheureusement un franc succès. Des deepfakes de victimes de violence ou de meurtre racontant ce qu’il leur est arrivé. Autrement dit : la personne décédée est recréée grâce à l’intelligence artificielle qui lui donne une voix pour qu’elle décrive ce qu’elle a subi avant de mourir. Même des enfants sont mis en scène.

YouTube ne veut plus de deepfakes de victimes racontant les violences qu’ils ont subies

Sur TikTok par exemple, on peut voir une vidéo où un bébé explique avec une voix d’enfant comment il a été tué par sa grand-mère à l’âge de 21 mois. Malgré des erreurs factuelles dans le récit, c’est vraiment ce qui est arrivé à un nourrisson de 22 mois dans le Mississippi. Les membres des familles concernées par ces contenus macabres sont bien sûr outrées, d’autant que jusqu’à présent, rien n’empêche quelqu’un de créer ce genre de deepfake.

Lire aussi – Google teste l’IA pour créer des résumés des vidéos YouTube

YouTube prend les devants en modifiant sa politique en matière de contenus. Sur la page dédiée de son support, on peut désormais lire que sont interdits les “contenus simulant de manière réaliste des mineurs décédés ou des victimes d’événements violents meurtriers ou bien documentés décrivant leur mort ou les violences subies”. En cas de violation, un avertissement est émis et la vidéo est retirée. À cela s’ajoute une interdiction de poster du contenu pendant une semaine, entre autres. Récidiver peut aboutir à la suppression totale de la chaîne.

Source : YouTube


Réagissez à cet article !

Demandez nos derniers articles !

Amazon multiplie les promos avant le Black Friday : n’attendez pas pour profiter des meilleures offres déjà disponibles

Les premières offres du Black Friday sont déjà sur Amazon. Le site casse déjà les prix de nombreux produits. Nous avons sélectionné les meilleurs bons plans disponibles dès maintenant pendant…

Amazon lance une nouvelle assistante shopping personnelle basée sur Alexa en France

Alexa pour vos Achats débarque sur Amazon.fr et l’application Amazon. Elle est pensée comme une assistante shopping personnelle qui nous aide à faire le bon choix et apprend à nous…

Fire TV Stick 4K Plus, 4K Max et HD jusqu’à -63% : voici les meilleures offres sur les dongles HDMI d’Amazon

Connaissez-vous l’utilité d’un dongle HDMI comme le célèbre Fire TV Stick d’Amazon ? C’est une clé à brancher sur votre TV pour la rendre automatiquement plus modernes et ainsi accéder…

Test Fiido Nomads Pro : un vélo électrique “sportif”, mais finalement très polyvalent

Récemment mise sur le devant de la scène avec l’arrivée d’une usine d’assemblage en France, et plus précisément à Revin dans les Ardennes, la marque Fiido propose un catalogue de…

Pixel 11 Pro : la fonctionnalité HiLight devient plus utile avec WhatsApp

Google met à jour le HiLight de ses Pixel 11 Pro pour que le système devienne compatible avec les messages WhatsApp. L’une des principales nouveautés apportées par la génération des…

Votre Google TV est trop lente ? Cette petite astuce la rend beaucoup plus rapide et la débarrasse de toutes les applis inutiles

Les propriétaire de smart TV le savent, il ne faut généralement pas longtemps avant que celle-ci ne montre des signes de faiblesses. Ralentissements en tout genre et autres bugs intempestifs,…

Ne cherchez plus le GIF parfait pendant des heures : voici comment le créer gratuitement grâce à ChatGPT

Vous perdez régulièrement de précieuses minutes à chercher le GIF qui fera mouche, celui qui s’intégrera parfaitement dans votre discussion, parfois en vain ? Il existe désormais une solution gratuite et…

On sait enfin qui est le nouveau James Bond, voici qui remplace Daniel Craig comme 007

Amazon, nouveau détenteur des droits de 007, a officialisé l’identité de l’acteur qui incarnera James Bond dans les prochains films. Après des années de suspense et de théories, James Bond…

Votre Samsung Galaxy pourrait bientôt lire vos mails avant vous, à condition de lui confier toutes vos discussions

Samsung peaufine déjà One UI 9.5 pour ses smartphones en misant largement sur l’intelligence artificielle. Du code repéré dans l’interface dévoile une nouvelle fonction de résumé quotidien. Le constructeur sud-coréen…

En promo à seulement 400 €, le Poco F8 Pro a tout d’un smartphone haut de gamme, sauf son prix

Le POCO F8 Pro réunit un processeur Snapdragon 8 Elite, une partie photo polyvalente et une batterie de 6 210 mAh. À l’occasion du 11.11 AliExpress, il revient à 402,06…