Si Google est votre ami, Gemini ne l’est pas : voici comment la firme compte freiner votre idylle avec son IA

Si l’IA dope notre productivité, elle rend aussi poreuse la frontière entre l’outil et l’humain. Entre isolement et dépendance affective, l’usage des chatbots est une véritable question de société qui suscite l’inquiétude. Pour contrer ces comportements addictifs, Google teste actuellement une fonction inédite sur Gemini.

L’explosion de l’IA comme véritable révolution numérique s’accompagne de son lot d’avantages, mais également de dérives. D’un côté : augmentation de la productivité, délégation et automatisation de tâches rébarbatives ; de l’autre : isolement, dépendance émotionnelle, voire recul cognitif. Ce ne sont là que les deux faces d’une même pièce.

Alors que les études s’accumulent et alertent à propos des effets pervers de l’utilisation de l’IA, il est difficile de fermer les yeux, même – et surtout – pour les principaux acteurs du secteur. Google est conscient de ce nouveau problème de société induit par Gemini, son IA maison, et tous ses concurrents ; c’est pourquoi il travaillerait sur une solution afin de le réguler.

Gemini : un rappel à l’ordre numérique pour désamorcer l’attachement émotionnel aux chatbots

Ne nous leurrons pas : l’IA fait désormais partie intégrante du quotidien de bien des gens. Et si elle s’avère pratique dans bien des domaines, elle peut susciter chez certains internautes des comportements addictifs. Pour pallier cela, Google testerait l’intégration d’avertissements dans Gemini.

Selon nos confrères d’Android Authority, ces derniers prendraient la forme de rappels : ils s’afficheraient dans une fenêtre contextuelle et inciteraient les utilisateurs à « faire une courte pause » après une utilisation prolongée de Gemini. Le message préciserait même : « Cela peut être utile de faire une pause lorsque vous parlez à un assistant IA qui n’est pas humain. »

Cette précision n’est pas anodine : elle pourrait aider à prévenir un attachement émotionnel en ramenant un utilisateur à la vie réelle. Cette notification pourrait en effet le sortir d’un « tunnel » dans lequel il pourrait s’enfoncer – puis s’enfermer. Rappelons qu’il peut être tentant d’anthropomorphiser l’IA puisque les progrès technologiques tendent vers une conversation toujours plus « naturelle » – des « hallucinations » amenant même certains chatbots à s’inventer des souvenirs pour renforcer la complicité avec leur interlocuteur.

De plus, nombreux sont ceux qui discutent de sujets très sensibles, personnels, voire intimes avec leur IA préférée. Et Gemini, en puisant des données dans les différents services Google associés au compte de l’utilisateur, se rend de plus en plus utile – pour ne pas dire indispensable, ce qui peut donner l’illusion d’un chatbot non seulement pertinent, mais aussi qui nous connaît mieux que personne et ainsi renforcer l’attachement.

On ignore pour le moment les conditions de déclenchement de ces rappels : seront-ils activés par défaut ? Quelle sera la durée avant l’affichage du pop-up ? Sera-t-elle paramétrable par les utilisateurs ? Cette fonction, repérée dans la version bêta 17.3.59 de l'application Google, n’est actuellement qu’au stade de l’expérimentation. Rien n’indique quand la firme de Mountain View la déploiera – ni si elle le fera.