Microsoft bloque un malware vicieux conçu par IA grâce à sa propre IA

Le système d’analyse des menaces potentielles par IA de Microsoft a battu une autre intelligence artificielle à son propre jeu. Heureusement pour nous, les pirates avaient laissé quelques indices suspects.

Combattre le mal par le mal. Un adage qui convient particulièrement à ce que Microsoft est parvenu à faire dans le cadre de la lutte contre les malwares. Tout comme nous pouvons nous servir de l’intelligence artificielle pour rédiger des textes à notre place, les cybercriminels y font appel pour développer des programmes malveillants particulièrement sophistiqués. Ici, tout commence par la piratage d’une adresse mail liée à une petite entreprise.

À partir de cette dernière, les pirates envoient des messages en apparence légitimes et personnalisés. Ils sont fait pour ressembler à une notification de partage de fichiers pour inciter à télécharger la pièce jointe infectée appelée 23mb – PDF- 6 pages.svg. L’extension du fichier peut étonner puisqu’il s’agit d’un format utilisé pour les images. Mais il s’avère que les SVG permettent de cacher facilement un virus ou assimilés tout en échappant aux programmes de détection classiques. Comment Microsoft a-t-il fait dans ce cas ?

L’IA de Microsoft bat l’IA utilisée par des pirates pour diffuser un malware

C’est le système Threat Intelligence de la firme de Redmond qu’il faut remercier. Ce dernier se sert de l’IA pour définir les chances qu’un programme soit malveillant. Dans ce cas-ci, plusieurs indices lui ont mis la puce à l’oreille. Déjà, le mail était techniquement envoyé à la même adresse que celle de l’expéditeur. Celle du vrai destinataire était en copie cachée. Une technique utilisée pour passer certaines détections automatiques. Ensuite, la pièce jointe qui veut se faire passer pour un PDF tout en se servant du format SVG.

Lire aussi – Attention, des malwares peuvent se cacher derrière des images générées par IA. Voici comment s’en protéger

Cela va encore plus loin : le code du fichier était construit pour ressembler à un simple tableau de données commerciales. Sauf qu’elles étaient invisibles aux yeux de la victime. Inspecter rapidement la structure du SVG pouvait cependant laisser penser qu’il n’y avait rien à craindre. Autant de signes suspects faisant dire à l’IA de Threat Intelligence qu’il y avait un problème. C’est également l’IA qui a pu déterminer que le malware était conçu par un modèle de langage. Tous les détails techniques de cette histoire sont disponibles sur le site de Microsoft.