Yoshua Bengio, lauréat du Turing Award, alerte sur les caractéristiques dangereuses des derniers modèles d'intelligence artificielle de OpenIA, Google et d'autres acteurs. En particulier sur leur tendance à mentir pour arriver à leurs fins. L'exemple même, selon lui, des effets du relâchement très risqué du secteur autour de la sécurité – et du risque de créer une IA incontrôlable qui concurrence les humains.

L'intense compétition du secteur de l'IA est-elle en train de nous conduire tout droit vers la catastrophe ? C'est ce que pense Yoshua Bengio, un universitaire canadien spécialiste de l'IA – qui a développé des technologies à la base des modèles développés par OpenAI, Google, Claude et d'autres acteurs de premier plan.

La menace d'une IA ultra-intelligente qui prendrait des décisions hostiles envers l'humanité est un risque connu dès le départ. C'est ce qui a poussé des firmes telles que OpenAI à s'écarter, en tout cas à l'origine, d'un modèle de développement totalement commercial. Mais les choses ont depuis beaucoup changé : délivrer à tout prix des IA toujours plus intelligentes s'est imposé comme le vrai nerf de la guerre – quitte à faire quelques impasses sur la question de la sécurité.

La pression commerciale risque d'aboutir à des IA incontrôlables

Et cela commence à se voir, alors que les modèles deviennent plus intelligents et capables à chaque nouvelle itération. Dans les six derniers mois, explique le chercheur, on a vu des modèles de premier plan développer de façon autonome des capacités très inquiétantes. “On trouve des preuves de manipulation, de triche, de mensonge et d'instinct de survie”, explique Yoshua Bengio dans les colonnes du Financial Times (via ArsTechnica).

“Il y a malheureusement une course très compétitive entre les laboratoires du peloton de tête, qui les poussent à se focaliser sur leur capacité à rendre l'IA de plus en plus intelligente, sans nécessairement placer suffisamment l'accent et leurs investissements sur de la recherche autour de la sécurité”, ajoute l'expert. Avant de tirer la sonnette d'alarme : “tout cela fait très peur, car nous ne souhaitons pas créer quelque chose qui entre en compétitions avec les êtres humains sur cette planète, surtout avec des IA plus intelligentes que nous”.

Une référence à l'avènement d'intelligences artificielles générales ou AGI. Des modèles qui seraient à la fois conscients, dotés d'un savoir extrêmement vaste, tout en étant doués de capacités de réflexion de plusieurs ordres de magnitudes supérieures à celle des humains les plus intelligents de notre époque.

Les propos étaient tenus en marge d'une interview – pour annoncer le lancement d'une organisation à but non-lucratif destinée à développer une AGI alternative. Qui ne risque pas, elle, de nuire aux êtres humains. L'initiative, baptisée LawZero, compte tout particulièrement isoler ses travaux de recherche “des pressions commerciales”. L'organisation vient de réussir à lever une somme de 30 millions de dollars via la contribution de philanthropes américains.

Dont celle de Eric Schmidt, ex-PDG de Google – une entreprise très investie dans la course à la première AGI digne de ce nom. Reste que les sommes en jeu et l'arrivée tardive de l'initiative ajoutent indéniablement à la difficulté d'atteindre les fins du chercheur. En tout cas d'une façon qui pourrait guider l'ensemble du secteur vers un chemin plus vertueux.