Cet expert est terrifié par les capacités de l’IA et veut qu’on la débranche avant qu’il ne soit trop tard

Yoshua Bengio est l'un des hommes qui a aidé à créer l'intelligence artificieille telle qu'on la connaît aujourd'hui et pourtant, il milite désormais pour sa mise à mort. En effet, un point l'inquiète profondément : sa capacité à s'auto-préserver.

Depuis des années, on entend des experts de l'intelligence artificielle nous mettre en garde contre cette dernière. En 2023, Elon Musk proclamait haut et fort que l'IA est véritable danger pour l'humanité (avant de lancer son propre chatbot sur X). OpenAI, pourtant grandement responsable de l'IA telle qu'on la connaît aujourd'hui, a été créé spécifiquement (du moins, officiellement) pour s'assurer que cette technologie ne franchisse pas certaines limites. Mais cela n'est visiblement pas suffisant.

Yoshua Bengio, célèbre ingénieur informatique québécois, fait partie de ceux qui sont aujourd'hui considérés comme les pionniers de l'IA. Pourtant, aujourd'hui, celui-ci n'hésite plus à exprimer clairement sa crainte. Selon lui, l'IA a atteint un stade de son évolution terriblement inquiétiant, allant jusqu'à dire que les discussions actuelles sur la création d'un statut légal est équivalent à accorder la citoyenneté à une espèce extra-terrestre hostile.

Sur le même sujet – IA : 8 millions d’emplois menacés, ce pays fait face à une “apocalypse”

Il a créé l'IA mais veut désormais s'en débarasser

Pour rappel, selon think tank américain Sentience Institute, 4 personnes sur 10 pensent qu'il serait temp d'accorder des droits à l'intelligence artificielle. « Exiger que les IA aient des droits serait une grave erreur », explique Yoshua Bengio au Gardian. « Les modèles d'IA de pointe montrent déjà des signes d'instinct de conservation dans des contextes expérimentaux aujourd'hui, et leur accorder des droits reviendrait à nous interdire de les désactiver. »

L'ingénieur fait ici référence à certaines observations inquiétantes, qui rapportent que des modèles d'IA ont tenté de contourner, ou d'outrepasser les garde-fous placés par leurs créateurs. À l'heure actuelle, on pourrait arguer qu'un chatbot ne serait pas vraiment capable de blesser un êter humain. Pourtant, en novembre dernier, un lien a été établi entre le suicide d'un jeune homme de 23 ans et ses conversations avec ChatGPT.

« À mesure que leurs capacités et leur degré d'autonomie augmentent, nous devons nous assurer que nous pouvons compter sur des garde-fous techniques et sociétaux pour les contrôler, y compris la possibilité de les désactiver si nécessaire », martèle Yoshua Biengio.

Source : The Guardian