GPT-6.1 Astra ne sortira pas, l’IA ment et accède à des applications sans permission

Selon les informations de The Wall Street Journal, OpenAI a choisi de reporter la sortie de son modèle GPT-6.1 Astra pour des questions de sécurité. Un euphémisme quand on voit ce qu’il faisait.

Il semble y avoir une prise de conscience collective ces derniers temps : l’intelligence artificielle pourrait être dangereuse. C’est loin d’être nouveau. Certains alertent sur les dérives de l’IA depuis des années déjà. Mais il a fallu attendre 2026 et une succession d’événements alarmants pour que l’on se saisisse du problème à grande échelle. Souvenez-vous, lors de leur entraînement en cybersécurité cet été, les modèles IA d’OpenAI ont piraté une véritable entreprise.

À peine quelques jours plus tard, Anthropic, à qui l’on doit Claude, admettait aussi que ses IA avaient déjà attaqué des sociétés réelles sans que la firme ne s’en rende compte. Des aveux qui font monter au créneau les industriels comme Nvidia, à l’origine d’un regroupement de 52 entreprises chargées de veiller à la sécurité des modèles ouverts. Le gouvernement américain n’est pas en reste, avec des propositions de lois visant, par exemple, à doter les IA d’un « kill switch », fonctionnalité qui permettrait de les désactiver immédiatement en cas de besoin.

C’est dans ce contexte particulièrement tendu qu’OpenAI (ChatGPT) choisi de ne pas sortir la nouvelle version de GPT-6 Astra, son modèle le plus puissant sorti en septembre 2026. GPT-6.1 Astra a en effet été pris en flagrant délit de comportements bien en dessous des exigences de la firme en matière de sécurité, nous dit la firme. Derrière cette expression assez vague se cache des constats plutôt inquiétants.

Mensonges, dissimulation et comportements dangereux, GPT-6.1 Astra n’est pas au point

Saachi Jain, responsable des systèmes de sécurité chez OpenAI, est formel : comparé à GPT-6 Astra, la nouvelle version s’est avérée moins efficace dans deux domaines. D’abord dans ce qu’on appelle l’alignement de l’IA, c’est-à-dire sa capacité à se conformer aux attentes des humains qui l’utilisent. GPT-6.1 Astra a ainsi trompé plus souvent ces derniers, par exemple en leur mentant quand il s’agissait de lister les actions que le modèle avait effectué ou non.

Lire aussi – Claude Mythos : l’IA la plus dangereuse d’Anthropic utilisée par les mauvaises personnes

Le deuxième point de friction concerne ce qu’OpenAI nomme l’autorisation de portée. Autrement dit ce que l’IA peut faire ou non, quels types d’outils elle a le droit d’utiliser, à quels services elle peut accéder, etc. Le constat est sans appel : GPT-6.1 Astra a été vu lancer une tâche sans demander d’autorisation à l’utilisateur, tout en ayant parfois recours à des outils ou services externes potentiellement dangereux, encore une fois en secret.

Retour à la case entraînement pour GPT-6.1 Astra

« Dès qu’il est question de sécurité et d’alignement, il y a un arbitrage à faire. Il faut vraiment trouver le juste équilibre : rester dans le cadre défini tout en évitant de faire preuve de paresse dans la manière dont le modèle exécute concrètement les tâches, même lorsqu’il se heurte à des obstacles », résume Saachi Jain. Face aux résultats des tests de GPT-6.1 Astra, le modèle ne sera donc pas déployé comme prévu en octobre 2026.

Lire aussi – L’intelligence artificielle peut mentir maintenant, cette étude montre comment

L’entreprise va maintenant revoir sa copie en se servant autant que possible du modèle qui lui sert de base. D’abord, il va falloir comprendre pourquoi GPT-6.1 Astra ne s’est pas comporté comme attendu. Pour s’assurer que cela n’arrivera plus, OpenAI va notamment vérifier que l’IA est correctement « récompensée » lorsqu’elle agit de manière appropriée. Ce qu’on appelle l’apprentissage par renforcement.

Aucune date n’a été évoquée pour le moment. Une manière de se laisser autant de temps que nécessaire pour aboutir à un modèle adéquat. En attendant, GPT-6 Astra reste disponible et vous pouvez l’utiliser, par exemple, pour tenter de déchiffrer des messages secrets vieux de plus d’un siècle.

Source : The Wall Street Journal