Microsoft lance un créateur de deepfakes photoréalistes

Microsoft dévoile deux outils utilisant l'intelligence artificielle. Le premier génère un avatar très réaliste à partir de votre photo, le deuxième recrée votre voix après la lecture enregistrée d'un court texte.

Alors que la puissance grandissante des outils à base d'intelligence artificielle font craindre de plus en plus d'abus, Microsoft en présente deux qui ne manqueront pas de créer la polémique. Le premier se nomme “Azure AI Speech text to speech avatar”. Le principe est simple : il créé une représentation 2D photoréaliste d'une personne et l'anime pour la faire parler. Il est possible de fournir des photos de l'individu que l'on souhaite représenter virtuellement, ou de choisir parmi des modèles préexistants. La voix utilisée est soit l'une de celles proposées, soit reproduite à partir de la vôtre.

Lire aussi – Deepfake : il vole 560 000 euros à sa victime en se faisant passer pour son ami grâce à une IA

Microsoft donne quelques exemples d'utilisation : un chatbot pour un site de voyage, le double virtuel d'un PDG pour parler lors d'une conférence, un professeur numérique qui interagit avec ses élèves… L'avatar utilise le modèle Azure OpenAI Service GPT-3.5 pour répondre aux questions posées par texte. Imaginez que vous vous adressez à un vendeur virtuel sur un site d'articles de sport pour qu'il vous conseille sur des chaussures de courses, ce genre de choses. Il parlera d'ailleurs plusieurs langues au besoin.

Microsoft dévoile un outil pour créer un avatar photoréaliste grâce à l'intelligence artificielle

On imagine assez rapidement les dérives possibles. Techniquement, rien n'empêche de donner des photos de Tom Cruise ou une autre personne connue pour en créer une version numérique. Microsoft ne s'est pas prononcé sur ce genre de cas. On ne sait pas si la firme a prévu des mesures pour les éviter, s'il y aura une forme de compensation, ni même s'il faudra obligatoirement signaler que la personne sur la vidéo a été créée grâce à l'IA. YouTube a par exemple mis en place un label “IA réaliste” pour éviter toute confusion. La vidéo ci-dessous montre un avatar généré par le nouvel outil de Microsoft.

Une deuxième nouveauté présentée permet de recréer votre voix après avoir lu un court texte à l'écran. Nommé “Personal Voice”, il requiert un consentement enregistré de l'utilisateur avant de pouvoir fonctionner. Pour le moment, vous ne devez pas vous en servir pour faire lire du texte à la voix générée, ni même partager le résultat en dehors de l'application. À terme, cette restriction sera forcément levée. Là aussi, Microsoft n'indique pas si les comédiens de doublage, entre autres, seront rémunérés dans le cas où leurs voix seraient reprises, ni s'il faudra indiquer que cette dernière provient d'une IA.

Source : Microsoft