Windows 11 : l’IA Recall enregistre vos données bancaires même si vous lui demandez de ne pas le faire

La fonction IA Recall de Windows 11, lancée malgré des doutes persistant sur sa sécurité, capture des informations sensibles qu'elle doit en théorie ignorer. Microsoft a encore du pain sur la planche.

En mai dernier, Microsoft annonce en grande pompe l'arrivée d'une fonctionnalité inédite sur Windows 11 : Recall. Sur le papier, l'idée est séduisante. Il s'agit en quelque sorte d'une mémoire absolue de tout ce que vous faites sur votre PC.

La moindre de vos activités est enregistrée sous forme de captures d'écran, lesquelles sont disposées sur une frise chronologique dans laquelle vous pouvez effectuer des recherches en langage naturel.

Imaginez que vous vouliez retrouver la chaise recherchée il y a 10 jours sur Amazon, mais effacée de votre historique depuis. Il suffit de taper “chaise” et Recall affichera la ou les capture(s) adéquate(s). L'intelligence artificielle étant à la manœuvre, il est possible de copier le texte contenu sur une image.

Immédiatement après l'annonce, les inquiétudes sur le respect de la vie privée et la sécurité des données émergent. Microsoft y répond d'abord en rendant Recall optionnel. Son utilisation était à l'origine obligatoire. Mais dès les premiers tests, il s'avère que les captures d'écran effectuées ne sont pas du tout protégées. Une faille majeure qui pousse la firme à repousser la sortie de Recall, avant un déploiement fin novembre malgré les controverses.

L'IA Recall de Windows 11 capture des informations privées qu'elle est censée ignorer

C'est donc tout naturellement que plusieurs personnes ont cherché à savoir si Recall était bien sécurisé. D'abord, on constate qu'il y a un paramètre “Filtrer les informations sensibles” activé par défaut. Les applications ou sites Internet affichant un numéro de carte bancaire, une adresse postale ou autres données personnelles ne sont normalement pas enregistrés.

Dans les faits, c'est plus nuancé. Si vous ouvrez le Bloc-notes de Windows 11 et vous écrivez, par exemple “Identifiant [nom d'une banque]” et “Mot de passe compte [nom d'une banque]” suivis des infos adéquates, Recall les capture sans se poser de question. Même chose si vous remplissez un PDF avec des données privées depuis votre navigateur Web, le fichier sera enregistré en clair.

En poussant l'expérience plus loin, on se rend compte qu'une page HTML créée pour l'occasion avec des champs comme “Type de carte”, “Numéro de carte bancaire” ou “CVC” (les 3 chiffres à l'arrière de la carte) est elle aussi facilement accessible dans Recall. Devant ces constats alarmants, faut-il en conclure que Recall ne fonctionne pas du tout comme il devrait ? Oui et non. Il agit correctement dans certains cas.

Microsoft doit encore améliorer Recall, l'IA ne rassure pas dans son état actuel

Commençons par le point le plus important relevé au lancement initial de Recall : il est désormais impossible d'ouvrir la base de données de l'IA ainsi que les captures d'écran individuelles comme n'importe quel fichier. Cela ne veut pas dire qu'une personne malveillante n'y arrivera jamais, mais c'est un bon début.

Ensuite, chaque ouverture de Recall nécessite de s'identifier d'une manière ou d'une autre. Microsoft vous orientera vers Windows Hello, son système de reconnaissance faciale, sachant qu'un code PIN à 4 chiffres sera aussi accepté. Enfin, si vous entrez des données privées sur un site de vente en ligne légitime, l'IA ne les capturera pas.

C'est donc un bilan en demi-teinte pour le moment. Contacté pour commenter les différentes anomalies repérées, Microsoft a simplement renvoyé à une citation d'un de ses articles de blog sur Recall. Elle indique que l'entreprise travaille continuellement à l'amélioration de la détection des informations sensibles et qu'il ne faut pas hésiter à l'alerter des erreurs via le Hub de commentaires. La fonction Recall est disponible pour les inscrits au programme Windows Insider, et uniquement sur les PC Copilot+.

Source : Tom's Hardware