Le danger le plus grave de l’IA est une vraie bombe à retardement : les dégâts ont commencé

Les dangers de l'IA sont souvent mal définis, et probablement impossibles à anticiper dans leur totalité. Toutefois, il semble qu'un danger le plus grave et visible est déjà à l'oeuvre. Les dégâts sont de plus en plus importants, et pourraient se muer en une vraie bombe à retardement. 

OpenAI, Google, Microsoft, Apple, Mistral, DeepSeek… un nombre croissant d'acteurs s'engagent dans une course à la première intelligence artificielle générale. Un modèle dont l'intelligence, les performances et les vastes connaissances devraient dépasser de beaucoup les capacités humaines. Comme l'écrit Ray Kurzweil dans son excellent ouvrage The Singularity is Near, nous approchons d'un point historique (qu'il nomme “Singularité”) après lequel tout progrès sera le fait de l'IA.

L'humanité devra largement repenser son fonctionnement, dans une ère de dépendance quasi totale à des modèles ultra-avancés. Or, on voit déjà apparaître un énorme danger un peu partout. Alors même que les IA actuelles comme ChatGPT sont loin de pouvoir se définir comme des AGI. Le soucis tient à la relation même des humains avec la technologie. Et vous l'avez sans doute déjà remarqué vous aussi.

Les nouvelles technologies ont tendance à rendre les humains paresseux

L'arrivée des smartphones toujours dans la poche et la démocratisation, entre autres, des applications de GPS comme Google Maps, nous pousse à constamment utiliser la navigation pour trouver la moindre adresse. Même très proche. Avec ses connaissances étendues et sa capacité à générer des textes cohérents, finalement assez humain, en apparence, l'IA générative rend elle aussi peu à peu l'humanité dépendante.

Saut qu'il ne s'agit plus d'une seule chose, comme la navigation. Mais plutôt la dépendance à une vaste quantité de connaissances que l'on n'a plus besoin d'assimiler dans la douleur au cours de longues années de labeur. Fini aussi cet effort qui consiste à rédiger des textes à la main, éditer des images, créer des vidéos et bien plus encore. Oui, le recours à l'IA plutôt qu'à son propre cerveau est une chose qui tente de plus en plus de monde.

Et ça touche un nombre croissant d'industries. D'un côté, un nombre croissant de médias utilise l'IA à des niveaux variables (on vous rassure, ce n'est jamais le cas sur Phonandroid.com). Certains pour assister les recherches, mieux comprendre plus vite des concepts, fournir une assistance dans les tâches chronophages… mais d'autres à chaque étape du processus d'écriture.

L'IA peu à peu fait perdre à l'humanité le contrôle sur son devenir

Même chose à l'Université. Cet article paru dans The Chronicle of Higher Education dénonce l'utilisation qu'en font les étudiants du supérieur. Ces dernier ont tendance à largement se reposer sur des chats génératifs, ce qui ébranle les fondations même de l'éducation supérieure. Tout cela, et un nombre infinis d'exemples semblables, menace d'avoir de lourdes conséquences à plus ou moins long terme si rien n'est fait. Très concrètement, les humains ne tiendront plus les reines.

OpenAI et d'autres firmes craignent que, dans le futur, des IA superintelligentes conscientes gèrent ainsi une grande partie (voir chacun des aspects) de nos sociétés. Avec le risque qu'elles prennent de petites décisions à l'échelle mondiale, invisibles pour les humains, mais aux conséquences non moins dévastatrices – potentiellement en lien avec leur propre agenda. Il semble clairement que nous entrons dans la période dans laquelle l'humanité perdît son indépendance.

Reste à déterminer ce qui peut vraiment être encore fait pour éviter un désastre quasiment inéluctable. Il est certain, au demeurant, qu'inverser la vapeur impliquera des décisions vraiment radicales pour pousser les humains à continuer de nourrir leur matière grise. L'enjeu, c'est de garder l'humanité capables de créer elle même un meilleur futur dans lequel elle conserve le contrôle – au moins en partie…