Vous voulez utiliser l’IA pour créer un Starter Pack à votre image ? Vous n’imaginez pas l’énormité des risques

Les risques encourus lorsque l'on donne volontairement sa photo et des infos personnelles à des IA comme ChatGPT, Grok ou Gemini sont peu connus des internautes. Le danger est pourtant réel.

L'arrivée de l'IA générative, en particulier celles qui permettent de créer des images à partir d'un prompt, a évidemment un côté très sympathique. Et il n'est donc pas étonnant que tant les internautes que les acteurs clé du secteur se soient emparés du sujet.

Ainsi, on a vu pas mal de tendances émerger ces derniers mois sur les réseaux sociaux. Avec, vous l'aurez peut-être remarqué, de plus en plus d'incitations à donner sa photo de profil et à partager des infos personnelles avec votre IA préférée.

Vous perdez l'essentiel des protections légales sur votre image

On se souvient de ces photos de profil rendues plus professionnelles une fois complètement recrées par un modèle de langage. Plus près de nous, OpenAI a mis à jour son générateur d'images, qui fait, entre autres, des merveilles lorsqu'on lui demande de vous transformer en un magnifique personnage tout droit sorti du film d'animation japonais Spirited Away.

Également en vogue ces dernières semaines, les Starter Pack proposent de créer le visuel d'une figurine à votre image, avec quelques accessoires. Le tout dans sa boîte en carton et plastique transparent. Plutôt sympa, non ? D'autant qu'il est très simple d'avoir le sien : il suffit du bon prompt, d'une photo de vous, et de donner le tout à ChatGPT. C'est facile, mais est-ce réellement sûr en matière de droit à l'image ?

En tant que citoyen européen, vous êtes a priori protégé par le RGPD contre l'utilisation de votre image trouvée sur le net par des entreprises comme OpenAI pour entraîner les modèles. Toutefois, en donnant volontairement votre photo, vous permettez à ces services de contourner la plupart de vos protections légales. Nos confrères de Techradar expliquent que l'émergence même des tendances comme le Starter Pack semble découler d'une possible stratégie de OpenAI, xAI ou encore Google.

Assurance plus chère, crédit refusé, surveillance de masse…

Le but serait d'acquérir un grand nombre d'images de personnes réelles, tout en collectant des informations personnelles sans devoir se conformer à trop d'obligations. Créer un starter pack implique en effet de donner pas mal de détails sur vous. On a ainsi des entreprises qui ont soudain accès à des données de valeur qu'elles ne pourraient pas collecter autrement. L'utilisateur perd tout contrôle et s'expose à des risques graduels qui devraient augmenter avec le temps.

L'IA s'insère en effet dans de plus en plus de secteurs, ce qui signifie que ce que vous partagez de trop personnel dans une conversation risque potentiellement de vous causer du tord. Sans parler du détournement de ces tchats par des pirates, qui pourraient ainsi obtenir une mine d'information pour mieux vous attaquer.

Un responsable chez Proton cité par nos confrères explique : “des plateformes comme ChatGPT menacent d'influencer une variété de relations avec des services tels que les compagnies d'assurance, de crédit”. Mais aussi, continue l'expert “la surveillance, le profilage, la collecte de renseignements ou encore le ciblage d'attaques”.