OpenAI enferme ses IA dans un faux Internet pour éviter une catastrophe
Face à une IA parfois hors de contrôle, OpenAI a pris une décision radicale. Le créateur de ChatGPT a décidé d’entraîner ses agents dans un environnement reproduisant fidèlement Internet.
Cette année, l’intelligence artificielle aura beaucoup fait parler d’elle, mais pas forcément en bien. En effet, l’heure est aux agents d’IA, capables d’évoluer de manière quasiment autonome. Mais parfois, ces derniers dérapent. C’est en tout cas ce qu’a pu constater OpenAI. Au cours de ce qui devait être un simple test, l’entreprise a perdu le contrôle de son IA, qui a pris la liberté d’attaquer un véritable site, baptisé Hugging Face. Et le moins que l’on puisse dire, c’est que cette affaire a fait grand bruit.
Et pourtant, les choses n’ont fait qu’empirer. Quelques mois plus tard, ChatGPT a piraté une nouvelle plateforme sans qu’on le lui demande. Pire encore : l’intelligence artificielle a inventé un faux témoignage, qu’elle a transmis à la police. De son côté, Google a vu son IA Gemini s’attaquer à trois entreprises.
Dans ce contexte, certaines entreprises commencent à prendre des mesures. Le patron de Nvidia a, par exemple, une solution radicale pour les laboratoires d’IA qui perdent le contrôle. Par ailleurs, Washington étudie déjà un dispositif capable de couper les modèles les plus puissants en cas de problème.
Déconnecter l’IA pour éviter les dérapages
Mais c’est cette fois au tour d’OpenAI, qui propose une solution relativement simple, comme le rapporte Gizmodo. Au lieu de laisser ses agents d’IA naviguer librement sur Internet, l’entreprise veut « enfermer » ces derniers.
Ainsi, l’IA est intégrée dans un vaste environnement numérique reproduisant Internet, sans pour autant lui permettre d’accéder à la véritable Toile. OpenAI affirme que ses systèmes sont « conçus pour maintenir le confinement même si un agent s’échappe de son bac à sable et prend le contrôle de la machine hôte ».
Toutefois, une déconnexion totale du réseau semble difficile pour l’entreprise de Sam Altman. « Isoler complètement cette infrastructure du réseau, c’est-à-dire la déconnecter entièrement des réseaux externes, n’est actuellement pas envisageable, car nous avons besoin de connexions externes pour exécuter et surveiller les expériences », explique le créateur de ChatGPT.
Quoi qu’il en soit, OpenAI va devoir mettre les bouchées doubles pour reprendre le contrôle de ses agents. Plus tôt ce mois-ci, l’entreprise a confirmé que l’un de ses agents d’IA s’est tranquillement servi dans une réserve de monnaie virtuelle.
