Après l’attaque d’une IA lâchée sans surveillance, Nvidia lève une armée de 52 entreprises
Les modèles d’OpenAI ont attaqué seuls les serveurs d’une entreprise en juillet. Nvidia riposte aujourd’hui en réunissant plus de cinquante sociétés autour d’outils ouverts. Trois des plus grands laboratoires américains manquent pourtant à l’appel.
Les intelligences artificielles agentiques agissent désormais seules, sans qu’un humain valide chaque étape de leur travail. Cette autonomie inquiète les spécialistes de la cybersécurité depuis plusieurs mois. Hugging Face a subi en juillet une intrusion pilotée par des agents autonomes d’OpenAI, lors d’une évaluation interne. La plateforme spécialisée dans l’hébergement de modèles a détecté puis bloqué l’attaque. L’affaire a surtout révélé une faiblesse bien plus large. Les outils de défense fermés se sont montrés incapables de distinguer un attaquant d’un défenseur pendant l’analyse.
L’onde de choc dépasse largement le seul secteur technologique. Deux élus américains ont proposé une loi autorisant l’arrêt d’urgence d’une intelligence artificielle quelques jours après l’incident. Nvidia répond de son côté sur le terrain industriel. Le fabricant américain de puces vient de lancer l’Open Secure AI Alliance, un regroupement d’entreprises consacré à la sécurité des modèles ouverts.
L’Open Secure AI Alliance veut armer les défenseurs avec des modèles d’intelligence artificielle ouverts
L’Open Secure AI Alliance compte 52 partenaires inauguraux. Selon le blog officiel de Nvidia, la liste réunit Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palo Alto Networks, Hugging Face ou encore la Linux Foundation. Le groupe reprend les travaux de l’initiative Akrites, déjà portée par cette même fondation. Sa mission consiste à corriger et à divulguer les vulnérabilités grâce à des technologies ouvertes. Le fabricant de puces y apporte NOOA, un projet open source déjà accessible sur GitHub. Les entreprises membres peuvent télécharger ces outils, les inspecter et les faire tourner sur leurs propres serveurs.
Trois noms manquent pourtant à cette liste, et non des moindres. OpenAI, Google et Anthropic, les principaux concepteurs américains de modèles fermés, ne figurent pas parmi les partenaires de l’Open Secure AI Alliance. Leur absence pèse d’autant plus que l’incident de juillet impliquait les systèmes d’OpenAI. Hugging Face avait dû faire tourner un modèle ouvert sur sa propre infrastructure pour analyser plus de 17 000 actions et reprendre la main. Nvidia demande maintenant aux régulateurs de traiter ces modèles ouverts comme des atouts défensifs plutôt que comme des menaces. Selon le groupe, un encadrement trop strict priverait les défenseurs de leurs meilleures armes.
