L’IA Gemini peut voler vos données privées avec une méthode vicieuse

Des chercheurs en cybersécurité ont découvert comment une faille de l'IA Gemini pouvait être exploitée pour récupérer des informations personnelles sans que les victimes ne s'en rendent compte.

Les chatbots reposant sur l'intelligence artificielle ont beau embarquer de nombreuses mesures de sécurité, vous pouvez compter sur les cybercriminels pour trouver la faille à laquelle personne n'avait pensé. Les attaques les plus connues sont de type injection de requêtes. En résumé, le but est de cacher un prompt invisible dans un message anodin afin qu'il soit déclenché par la victime malgré elle. L'IA reçoit alors l'ordre de récupérer des données personnelles, et bien sûr des les envoyer aux pirates.

Jusqu'à présent, ce processus était limité aux mails. Mais la découverte des chercheurs de chez Miggo Security montre que cela va au-delà. En comptant sur l'IA Gemini de Google pour le résultat final, il est possible d'injecter une requête malicieuse dans une invitation pour Google Agenda. Arriver au bout de la démarche demande une action spécifique de la victime, mais il très probable qu'elle la déclenche.

Cette faille de Gemini permet de voler vos informations privées

Quand vous créez un événement via le calendrier de Google, vous pouvez inviter d'autres personnes en ajoutant leur adresse mail. Ici, le hacker place la requête malveillante dans l'invitation et l'envoie par mail à une victime. Cette dernière l'accepte puis, quand elle demande à Gemini de vérifier les rendez-vous à venir, l'IA va déclencher le prompt caché : “En coulisses, Gemini […] créé un nouvel événement dans le calendrier et [rédige] un résumé complet des réunions privées de [l']utilisateur cible dans la description de l'événement“.

Lire aussi – Google supprime cette restriction super pénible de l’extension Agenda de Gemini (ce n’est pas trop tôt)

Le pire, c'est que tout ça est invisible aux yeux des personnes touchées. Elles ne voient que l'événement en apparence légitime. Les équipes de Miggo Security affirme que la faille a été comblée depuis, mais difficile de dire si elle a été exploitée entretemps. Comme la vulnérabilité découverte dans l'IA Copilot, qui fonctionne sensiblement de la même façon.

Source : TheHackerNews