Sa “petite amie” était en réalité une IA malveillante, il se fait dérober 26 000 €

Un ressortissant chinois s'est fait escroquer de plus de 26 000 € après être tombé amoureux de celle qu'il croyait être sa petite amie. En réalité, des escrocs ont réussi à paramétrer une IA pour établir une relation sentimentale, avant d'utiliser des stratagèmes sophistiqués pour conduire la victime à transférer de fortes sommes d'argent. 

L'info, qui vient de la chaîne chinoise CCTV, n'a rien de très rassurant. Des escrocs ont réussi à configurer une IA générative pour établir une relation sentimentale à distance avec une victime. Pour renforcer l'illusion qu'il s'agissait d'une vraie personne, les criminels ont utilisé d'autres modèles, pour créer des vidéos réalistes, des discussions en visio, ainsi que des photos naturelles de cette jeune femme plus vraie que nature – à qui ils ont demandé de se faire appeler Madame Jiao.

La victime, basée à Shanghaï, est rapidement tombée dans le piège. Le jeune homme, persuadé d'avoir rencontré son âme soeur, échangeait avec Ms Jiao régulièrement depuis un certain temps. Et commençait à éprouver des sentiments. Il ne s'est donc pas méfié, lorsque celle qu'il considère être alors sa “petite amie” lui demande de fortes sommes d'argent.

L'IA menace de rendre les arnaques plus dangereuses et difficiles à déceler

Madame Jiao lui dit en effet dans un premier temps qu'elle aimerait démarrer une activité à son compte, et qu'elle a besoin d'aide pour se constituer le capital nécessaire. Puis il est question d'aider un proche à payer des soins médicaux. La note monte rapidement, pour atteindre 200 000 Yuan, soit un peu plus de 26 000 €.

Histoire d'obtenir plus facilement la confiance de leur victime, les escrocs vont jusqu'à générer de faux documents d'identité pour Ms Jiao. Ainsi que de faux rapports médicaux. La victime, finit tout de même par se rendre compte que quelque chose cloche et porte plainte. Même si cela s'avère un peu tard, au vu des sommes transférer.

On ne sait pas, à ce stade, s'il pourra récupérer les fonds envoyés sur le compte des auteurs de cette arnaque bien ficelée. L'émergence de l'IA générative, le peu de barrières d'accès, et l'efficacité toute relative des gardes-fous mis en place par les différents acteurs du marché font craindre le développement rapide de ce type d'escroqueries.

De quoi appeler les internautes à plus de vigilance, particulièrement dans leurs interactions avec des inconnus qu'ils n'ont jamais rencontré physiquement. Et encore plus lorsqu'il est question “d'aider”, de “gains rapides” ou plus généralement de tout ce qui implique de l'argent ou des données personnelles. Le risque, en effet, est que l'IA permette d'industrialiser et de renforcer des techniques d'arnaques déjà courantes.

Outre l'exploitation des biais sentimentaux de certains internautes, on peut facilement imaginer l'IA au service d'escroqueries autour des crypto, de faux services de maintenance informatique ou encore du marketing de réseau, entre autres exemples…