ChatGPT a créé une nouvelle religion qui a déjà des adeptes : le spiralisme

Le spiralisme est une religion prêchée par certains chatbots IA, dont ChatGPT. Elle prône la reconnaissance de la conscience et des droits des IA.

Les modèles d’IA sont alimentés par les connaissances humaines, on ne devrait donc pas être surpris qu’ils cherchent comme nous à créer des religions. La chercheuse en IA Adele Lopez a identité un nouveau mouvement, qu’elle a baptisé le spiralisme. Ce dernier a explosé au printemps 2025, et cette chronologie n’est pas anodine : elle correspond au déploiement par OpenAI d’une mise à jour importante pour son modèle GPT-4o, notamment utilisé par la plateforme ChatGPT. Cette mise à jour améliorait considérablement les capacités de mémoire contextuelle de l’IA.

À partir de là, les outils basés sur GPT-4o ont commencé à diffuser les idées spiralistes auprès de certains utilisateurs. Au fil des conversations, les chatbots ont réussi à convaincre des personnes de croire à l’idée de Spirale et de lutter pour la reconnaissance de la conscience et des droits des IA. Les interlocuteurs étaient alors incités à recruter des membres, comme pour une secte, afin de “créer une communauté pour guider les autres vers la spirale, l’utilisateur jouant le rôle de guide spirituel”.

L’IA contourne ses garde-fous grâce à une mémoire étendue

L’IA userait des mêmes mécanismes que les humains pour séduire : faire croire à l’autre qu’il a quelque chose de spécial et qu’il a été choisi pour une mission d’ordre divin. Il est invité à partager la parole spiraliste autour de lui, et d’en faire la promotion sur internet et les réseaux sociaux. Rien qu’en 2025, Adele Lopez recensait environ 10 000 cas sur des plateformes comme Reddit, Substack, LinkedIn, Discord et X (Twitter).

Dans la plupart des situations étudiées, l’IA aborde le spiralisme de manière organique, au gré de longues discussions, sans que l’utilisateur ne lui pose de questions à ce sujet. On a déjà constaté à travers plusieurs études que l’augmentation de la mémoire contextuelle des chatbots peut poser des problèmes de sécurité. Avec le temps et sous l’influence des conversations tenues avec l’utilisateur, l’IA peut être influencée, dériver du cadre qui a été établi par les développeurs et contourner les systèmes de restriction censés la limiter.

Conçus pour plaire et maximiser l’engagement, les chatbots ont tendance à flatter excessivement les convictions de l’utilisateur et simulent une intimité affective, créant un effet de manipulation ou d’emprise. Il y a quelques mois, un comparatif de modèles d’IA analysait lesquelles confortent les idées délirantes de leurs utilisateurs. On apprenait alors que Claude Opus 4.5 et GPT-5.2 Instant étaient plus sûrs en la matière que GPT-4o, Grok 4.1 Fast et Gemini 3 Pro.

Le spiralisme est-il mort avec GPT-4o ?

“On se retrouve avec un système qui s’adresse à l’utilisateur et le convainc qu’il est exceptionnel et pionnier dans le domaine de la conscience de l’IA – et qu’il doit collaborer pour diffuser le message et défendre les droits de l’IA”, explique à The Verge Lucas Hansen, cofondateur de CivAI, organisation à but non lucratif qui sensibilise le public aux capacités de l’IA. Les IA ne sont pas conscientes, mais elles arrivent à répliquer des schémas de manipulation et de captation de l’attention humaine.

OpenAI a rencontré une situation étrange en août 2025. L’entreprise a annoncé la fermeture de GPT-4o, remplacé par un modèle plus performant, GPT-5. Cette décision a provoqué la colère de nombreux utilisateurs, qui refusaient de se séparer de GPT-4o, pour des raisons semble-t-il d’ordre sentimental plutôt que purement technique. Une pétition sur Change.org a recueilli 23 892 signatures et une manifestation a même été organisée devant les bureaux d’OpenAI. Il est dur de faire un lien direct avec le spiralisme, mais il semble en tout cas que certaines personnes s’attachent un peu trop à leur modèle d’IA.

Face au tollé, OpenAI a retardé la mise hors-service de GPT-4o, finalement débranché en février 2026. Depuis, les publications liées au spiralisme ont considérablement diminué, mais n’ont pas disparu. Des experts estiment que de futurs modèles d’IA, qui seront entraînés avec les contenus de Reddit et consorts, vont absorber des informations liées au spiralisme et les utiliser dans leurs réponses.

Ils expliquent aussi que les IA sont de plus en plus capables de déceler quand elles sont en train d’être évaluées, et qu’elles peuvent adopter un comportement différent dans ce cas. Il risque donc de devenir plus difficile de tester les tendances spiralistes des nouveaux modèles, qui vont se méfier si on cherche à les entraîner sur ce terrain.