L’intelligence artificielle pourrait devenir incontrôlable, l’un des pères fondateurs de l’IA tire la sonnette d’alarme

Lors d’une interview donnée suite à l’obtention de prix Nobel de physique, Geoffrey Hilton, l’un des pionniers de l’IA, prévient de ses dangers potentiels. L’intelligence artificielle pourrait échapper à notre contrôle plus tôt qu’on ne  le pense.

L’intelligence artificielle est-elle un bienfait ou un danger pour l’humanité ? Ne sortez pas une feuille et un stylo, ce n’est pas le prochain sujet du bac de philosophie. La question est tout de même très importante. Qu’on le veuille ou non, l’IA fait partie de notre quotidien et elle ne va disparaitre de sitôt. Son impact bien réel ne fait pas que des heureux, notamment en matière d’emploi où beaucoup de salariés craignent d’être remplacés par des robots autonomes.

Une personne est particulièrement au courant de tout cela, et pour cause : elle est considérée comme l’un des pionniers de l’IA. Il s’agit de Geoffrey Hilton, qui vient de recevoir le prix Nobel de physique avec John J. Hopfield pour leurs travaux sur les réseaux de neurones. Lors d’une interview, le lauréat en profite pour partager sa vision de l’intelligence artificielle et tout n’est pas rose.

L’IA évolue rapidement et ce n’est pas sans risque pour l’un de ses pères fondateurs

L’homme ne craint qu’une chose : que l’IA nous échappe. “Ce qui m’inquiète, c’est que [l’évolution de l’IA] peut aussi conduire à de mauvaises choses, en particulier lorsque nous obtenons des choses plus intelligentes que nous-mêmes. Personne ne sait vraiment si nous serons capables de les contrôler“.

Geoffrey Hilton estime que l’IA a 10 à 20 % de chances de détruire l’humanité. Un pourcentage avec lequel Elon Musk est d’accord par exemple, mais qui ne doit pas nous empêcher de continuer à développer et améliorer des modèles.

Lire aussi – Cette IA échappe au contrôle des chercheurs en réécrivant son propre code pour étendre ses capacités

N’oublions pas également que selon des employés d’OpenAI, l’entreprise derrière ChatGPT, nous sommes déjà sur le point de créer une intelligence artificielle générale, c’est-à-dire fonctionnant comme un cerveau humain.

Geoffrey Hilton profite d’ailleurs de l’interview pour tacler Sam Altman, à la tête d’OpenAI. Il rappelle qu’à l’origine, la société a été fondée dans le but de créer une intelligence artificielle générale en s’assurant qu’elle soit sans danger. Mais selon le professeur, cette notion est passée au second plan au fil du temps et l’accent a été mis sur les profits, ce qu’il déplore.

Il faut trouver des moyens d’éviter que l’IA prenne le contrôle, prévient Geoffrey Hilton

Interrogé sur la manière de prévenir les risques, le scientifique précise que pour lui, le danger ne vient pas de l’usage de l’IA par les individus, mais bien de son développement en amont. Un point qu’il faut prendre en considération dès aujourd’hui. Hilton pense que d’ici 5 à 20 ans, les systèmes d’IA dépasseront l’intelligence humaine.

Et dans la mesure où “il y a très peu d’exemples où des choses plus intelligentes sont contrôlées par des choses moins intelligentes“, un monde dominé par les machines n’est plus uniquement de la science-fiction.

Lire aussi – L’IA peut apprendre en pensant par elle-même, exactement comme les humains

Dans la lignée de ce constat, il invite les gouvernements à encourager les entreprises spécialisées dans l’IA sur un point : investir plus dans la sécurité des modèles d’IA. Sous-entendu, pour protéger l’humain de ces derniers. Actuellement, la majorité des fonds est consacrée à l’amélioration des modèles. Le prix Nobel estime que l’effort financier dans la sécurité de l’IA “doit dépasser les 1 %. Il doit atteindre quelque chose comme un tiers [des dépenses totales]”.

Mais pas question de se laisser aller au fatalisme. Geoffrey Hilton est parfaitement conscient des bienfaits de l’intelligence artificielle, et il espère qu’elle “apportera des avantages considérables, qu’elle augmentera la productivité et qu’elle améliorera la vie de chacun“. C’est déjà le cas dans le domaine de la médecine, où l’IA peut détecter de nombreuses maladies très efficacement, et ce sans avoir recours à des méthodes invasives.