OpenAI annonce de gros changements pour ChatGPT. Le service mettrait en place un système de vérification de l'âge obligatoire avant usage, exactement comme ceux que l'on trouve sur les sites pour adultes.

Utiliser un chatbot ne devrait pas présenter le moindre risque. Pourtant il y en a. Sans parler des moyens pour contourner les mesures de sécurité de l'IA et lui faire dire des choses qu'elle ne devrait pas, il est possible qu'elle influe négativement sur la santé mentale d'un utilisateur fragile. Par exemple en parlant de suicide, voire en l'incitant à passer à l'acte. Face à ces situations malheureusement réelles, OpenAI a décidé de prendre les devants en préparant un contrôle parental sur ChatGPT.

La firme de Sam Altman veut cependant aller bien plus loin. Dans un billet de blog, elle détaille comment elle compte modifier ChatGPT pour mieux protéger les mineurs. Cela passera d'abord par un système qui permettra à l'IA d'estimer l'âge de l'utilisateur en fonction de ses interactions avec le chatbot. S'il a moins de 18 ans, l'âge limite choisie par l'entreprise, il sera basculé sur une version de ChatGPT spécifique, différente de celle proposée aux personnes majeures.

Utiliser ChatGPT nécessiterait bientôt de prouver son âge

Le ChatGPT pour mineurs sera entraîné spécifiquement pour refuser certaines demandes autorisées dans sa version pour adultes. Toujours sur l'exemple du suicide, il sera ainsi impossible d'aborder le sujet avec l'IA sous couvert de recherches pour écrire une fiction ou dans le cadre d'un devoir scolaire. En cas de doute sur l'âge estimé, c'est l'expérience pour les moins de 18 ans qui sera affichée. Mais si vous êtes bien un adulte, comment faire ?

C'est la deuxième annonce d'OpenAI : “Dans certains cas ou pays, nous pourrions demander un papier d'identité“. Exactement comme ce qui a été mis en place pour accéder aux sites pour adultes en France et d'autres pays du monde.

Sam Altman ne précise pas s'il s'agira uniquement de rebasculer sur le ChatGPT “adulte” en cas de mauvaise estimation de l'âge, ou carrément d'interdire l'accès au chatbot dans les pays où la loi est plus stricte. Conscient du débat que cela va engendrer, le PDG précise que “ces décisions sont difficiles, mais après avoir discuté avec des experts, nous estimons que c'est la meilleure solution […].