Cette IA révolutionnaire pourrait vite devenir un outil de tromperie massive

Avec l’arrivée d’InstantID, un nouvel horizon s’ouvre dans le domaine de l’intelligence artificielle : cette technologie révolutionnaire peut identifier une personne à partir d’une seule image pour générer de nouvelles images. Cependant, cette percée technique soulève des inquiétudes majeures, notamment en raison du risque accru de deepfakes, une préoccupation de taille à la veille des élections aux Etats-Unis cette année.

À une époque où la technologie évolue à une vitesse fulgurante, nous assistons à une prolifération sans précédent d’images générées par intelligence artificielle. Cette tendance, soulignée par l‘augmentation des images créées par IA, pose de nouveaux défis en termes d’identification et de gestion de ces contenus numériques. Parallèlement, des géants technologiques comme Microsoft font avancer le domaine en lançant des outils de création de deepfakes. Ce sont des vidéos ou images créées en utilisant des techniques d’IA pour remplacer le visage d’une personne par celui d’une autre, rendant la manipulation souvent difficile à détecter.

Cependant, l’utilisation de telles technologies ne se limite pas à des fins créatives ou innovantes. Le potentiel de ces technologies à être utilisé de manière malveillante est souligné par des incidents où les deepfakes ont été employés pour commettre des fraudes. C’est le cas d’un individu qui a volé 560 000 euros en se faisant passer pour l’ami de sa victime. Ces exemples démontrent les dangers potentiels liés à leur utilisation abusive, rendant la discussion autour d’InstantID et de ses capacités pertinentes.

InstantID : une menace inédite plane sur votre vie privée

InstantID est une méthode innovante de création d’images par intelligence artificielle qui reconnaît l’identité d’une personne à partir d’une image unique et permet ensuite de générer des images dérivées. Cette approche diffère significativement de la précédente méthode, LoRA, qui nécessitait des réglages précis et plusieurs images de référence. Reuven Cohen, consultant en IA pour des entreprises du Fortune 500, a évoqué cette méthode sur LinkedIn. Il met en avant sa facilité d’utilisation et son potentiel de créer des deepfakes convaincants avec peu de ressources.

L’introduction d’InstantID dans la création d’images par intelligence artificielle représente une évolution importante qui facilite grandement la production de deepfakes. Cohen attire l’attention sur les questions éthiques soulevées par cette facilité d’accès.

Afin de contrer les abus potentiels, plusieurs mesures préventives pourraient être envisagées :

• le développement de logiciels capables de détecter ces faux contenus
• l’instauration de réglementations strictes sur l’utilisation de ces technologies
• la sensibilisation du public aux risques associés.

Ces stratégies, combinées à une régulation et une vigilance accrues, sont indispensables pour garantir une utilisation éthique et responsable de technologies aussi puissantes et potentiellement déstabilisatrices que InstantID.

Source : Cornell University