“Le monde est en péril” : un chercheur d’IA claque la porte d’Anthropic pour se reconvertir dans la poésie

Un chercheur d’IA quitte Anthropic, désabusé par la vision du futur par l’entreprise. Il estime que les assistants IA pourraient nous déshumaniser et que le monde est en péril.

Alors qu’Anthropic vient de frapper un grand coup sur le marché des chatbots alimentés par IA en rendant bon nombre de fonctionnalités avancées de Claude gratuites, l’entreprise vient de perdre l’un de ses employés. Mrinank Sharma a démissionné et a rendu publiques les raisons de son départ du spécialiste de l’IA, fondé par d’anciens membres d’OpenAI.

Dans une lettre ouverte, il explique son mal-être quant à cette course effrénée à l’IA, qui ne semble être jamais remise en cause par les dirigeants malgré des signes avant-coureurs négatifs. “Tout au long de mon séjour ici, j’ai constaté à maintes reprises combien il est difficile de laisser véritablement nos valeurs guider nos actions. Je l’ai constaté en moi-même, au sein de l’organisation, où nous subissons constamment des pressions pour mettre de côté ce qui compte le plus”, dénonce-t-il.

“Les assistants IA pourraient nous déshumaniser”

Il estime que “le monde est en péril”, pas seulement à cause de l’IA, mais qu’elle y contribue. Son dernier projet pour Anthropic a d’ailleurs été de remettre en cause le fonctionnement de la firme et sa vision de l’IA. “Je suis particulièrement fier de mes récents efforts pour nous aider à vivre selon nos valeurs grâce à des mécanismes de transparence interne, et également de mon projet final sur la compréhension de la manière dont les assistants IA pourraient nous déshumaniser ou dénaturer notre humanité”, partage-t-il.

D’après lui, nous sommes arrivés à une étape importante lors de laquelle “notre sagesse doit croître à la hauteur de notre capacité à influencer
le monde, sous peine d’en subir les conséquences”. Blasé, il fait savoir qu’il quitte les États-Unis pour retourner au Royaume-Uni. Il compte à présent se faire discret et se dédier à l’écriture et à la poésie.

Les craintes relatives aux conséquences de l’usage de l’IA sur les êtres humains se multiplient. Récemment, une étude démontrait qu’au travail, l’IA génère du stress et de la fatigue chez les travailleurs plutôt que d’alléger leur charge de travail, sans avoir d’effet vraiment clair sur la productivité. Pourtant, les employeurs insistent lourdement sur son utilisation au quotidien.