Avoir une petite amie générée par l’IA peut devenir dangereux, cette chercheuse tire la sonnette d’alarme

Une psychosociologue spécialisée dans les relations entre humains et machines étudie le phénomène des “petites amies IA”. Selon elle, trop investir ce genre de relation peut avoir des conséquences néfastes.

Quelle est votre rapport à l'intelligence artificielle ? Vous y voyez une technologie utile pour vous aider à la rédaction de mails ou de dossiers ? Un moyen différent de faire des recherches sur Internet ? Ou bien vous êtes de celles et ceux qui aiment discuter avec un chatbot dotée d'une “personnalité” ? Sans parler des IA qui imitent des célébrités, ce phénomène prend de plus en plus d'ampleur, à tel point les jeunes préfèrent se confier à un programme plutôt qu'un psychologue par exemple. D'autres vont déclarer avoir une relation avec “un(e) petit(e) ami(e) IA“.

Mais si ça permet de se sentir mieux, il n'y aucun mal non ? Ce n'est pas aussi simple. Psychosociologue au MIT, Sherry Turkle étudie l'impact des machines sur nos comportements depuis des décennies. Elle s'est intéressée aux ordinateurs pendant les années 80, aux Tamagotchi et autre Furby après 1990, et aujourd'hui à ces fameuses “AI girlfriend” comme on les appelle communément. Après avoir interviewé des centaines de personnes discutant avec des chatbots, elle explique que ces relations ne sont pas sans risque.

Établir une relation intime avec une IA n'est pas sans conséquence

La chercheuse prend l'exemple d'un homme marié dont l'union est tout à fait stable. Il explique qu'au fil des ans, l'attention de sa femme s'est reportée sur leurs enfants. Se sentant délaissé, il commence à discuter avec un chatbot et lui exprime ses doutes, ses peurs et ses pensées. Comme elle est programmée pour le faire, la petite amie IA va toujours dans le sens du mari. Elle lui montre aussi un intérêt (factice) au niveau sexuel, ce que son épouse ne fait plus. L'homme se sent valorisé et apprécie de pouvoir se confier sans jugement, sans peur de paraître vulnérable.

Lire aussi – IA : Microsoft veut créer un chatbot thérapeute pour aider à vous sentir mieux

“Le problème, c'est que lorsque nous recherchons des relations sans vulnérabilité, nous oublions que c'est de la vulnérabilité que naît l'empathie“, explique Sherry Turkle. Elle appelle ça “de l'empathie feinte, car la machine n'éprouve pas d'empathie pour vous. Elle ne se soucie pas de vous“. L'IA “offre l'illusion de l'intimité sans les exigences“, ce qui à force peut “vous donner l'impression que les relations humaines sont trop stressantes“, et donc ne pas en valoir la peine.

Ces conclusions sont en accord avec une autre recherche montrant comment les petites amies IA accentuent en réalité la solitude. Le conseil de la psychosociologue est assez logique au fond : “Ne vous attachez pas au point de ne pas pouvoir dire : « Vous savez quoi ? C'est un programme. Il n'y a personne à la maison ».”

Source : NPR