Si vous utilisez Gemini pour résumer vos emails, faites très attention à ce piège
Google veut simplifier la vie avec son assistant Gemini. Mais une faille inquiétante permet de piéger les utilisateurs d’une manière inattendue. Derrière un simple résumé d’email, un risque sérieux se cache.
Les outils d’intelligence artificielle envahissent notre quotidien. Ils promettent de nous aider à trier les informations, à répondre plus vite ou à organiser nos tâches. De plus en plus de services, comme Google Workspace, intègrent ces technologies pour améliorer la productivité. Mais à mesure que ces solutions se généralisent, elles deviennent aussi une cible privilégiée pour les attaques informatiques.
Récemment, un chercheur du programme 0din a découvert une faille inquiétante dans Gemini, l’IA intégrée à Google Workspace. Ce programme peut résumer les emails pour gagner du temps. Or, certains attaquants ont trouvé un moyen d’y insérer des instructions invisibles. Ces « injections indirectes » utilisent du texte masqué dans le message, par exemple en utilisant une taille de police minuscule ou une couleur blanche. Le contenu caché n’apparaît pas à l’écran, mais l’assistant le lit et l’interprète.
Gemini résume les emails et exécute des messages cachés qui trompent les utilisateurs
Lorsqu’un utilisateur demande à Gemini de résumer un email, l’IA peut obéir à ces instructions secrètes. Un exemple montre ce dernier avertissant faussement que le mot de passe Gmail serait compromis, tout en affichant un faux numéro de support. Comme pour certains emails de phishing classiques, ces messages profitent de la confiance accordée à la marque ou à l’outil. Ici, la différence est que la menace ne vient pas d’un lien direct ou d’une pièce jointe, mais d’un résumé généré automatiquement. Cette méthode contourne ainsi les filtres habituels et augmente les chances de tromper la victime.
Pour contrer ce type d’attaque, le chercheur du programme 0din propose plusieurs solutions. Par exemple, supprimer les contenus invisibles ou filtrer les résumés contenant des numéros ou des messages urgents. Google affirme renforcer ses protections avec des exercices de « red teaming » pour entraîner Gemini à résister à ces manipulations. Pour l’instant, aucun cas réel n’a été confirmé, mais la vulnérabilité existe. Les utilisateurs doivent rester vigilants et ne pas considérer les résumés générés comme des alertes de sécurité fiables. Cette découverte montre une nouvelle fois que l’IA, même utile, peut aussi devenir une porte d’entrée pour des attaques discrètes.
