Un expert en IA envisageait l'arrivée d'une superintelligence très bientôt, avec la possibilité qu'elle détruise l'humanité rapidement. Après de nouvelles projections, il estime que cela prendra plus de temps que prévu.

Faites-vous partie de celles et ceux qui pensent que les machines IA domineront le monde un jour ? Si oui, vous suivez peut-être avec anxiété les évolutions du p(doom), la probabilité que l'intelligence artificielle prenne le contrôle de l'humanité ou, pire, y mette fin. Au gré des recherches et autres projections, il oscille entre 10 et 99,999999 %. La fourchette est large. D'autres ne s'intéressent pas à cet indicateur et cherchent plutôt à calculer quand l'IA passera au stade de l'AGI, une superintelligence dépassant le cerveau humain.

À ce jeu-là, l'expert Daniel Kokotajlo, ancien employé d'OpenAI, ne fait pas partie des plus optimistes. Avec des confrères, il publie AI 2027, un scénario où, comme son nom l'indique, l'IA devient autonome en 2027. Comprendre par là qu'elle se développe toute seule. Dans l'une des fins envisagées, Kokotaljo imagine que tous les humains seraient tués par l'IA vers 2035. Le but étant de faire de la place pour fabriquer des panneaux solaires et des centres de données. Mais fin 2025, le chercheur revient sur la date butoir.

L'IA dépasserait les capacités humaines plus tard que prévu finalement

“Les choses semblent progresser un peu plus lentement que prévu dans le scénario IA 2027. Nos échéances étaient déjà supérieures à 2027 lors de leur publication et elles le sont encore un peu plus maintenant“, écrit Kokotaljo sur X (Twitter). Désormais, lui et son équipe estiment que l'IA sera capable de se coder elle-même au début des années 2030. La superintelligence arriverait elle en 2034, mais il n'est plus question de scénario catastrophe dans laquelle les humains seraient exterminés.

Il est important de rappeler que la vision de Kokotaljo n'est qu'une approche parmi d'autres. Plusieurs chercheurs ont qualifié ses travaux de science-fiction et n'y accordent aucun crédit. Ils rappellent que malgré ce que l'on peut entendre, le développement d'une IA supérieure aux humains en tout point est quelque chose d'extrêmement complexe qui pourrait ne jamais voir le jour comme on l'imagine. Ouf.