Pourquoi ChatGPT abandonne son projet de mode érotique réservé aux adultes
OpenAI préfère laisser tomber le mode adulte qui était en développement pour ChatGPT. L'entreprise va se concentrer sur le lancement de son prochain modèle GPT, alors que l'idée d'une IA spécialisée dans les contenus érotiques était controversée en interne.
Depuis plusieurs mois, OpenAI planche sur un projet de mode érotique pour ChatGPT. On apprenait il y a peu que son lancement prenait du retard car ce ChatGPT pour adulte soulevait des inquiétudes quant à son accès par les mineurs et à la diffusion de contenus illégaux. Et voilà maintenant que l'idée serait désormais complètement abandonnée, rapporte le Financial Times. Une information qui nous parvient seulement quelques heures après l'annonce officielle de la fermeture de l'application Sora, le générateur de vidéos d'OpenAI.
D'après le média économique, le mode adulte de ChatGPT est suspendu “indéfiniment”. L'entreprise souhaite concentrer ses ressources sur ses produits principaux. Le modèle GPT-5.4 vient d'être lancé, mais une nouvelle version devrait bientôt prendre sa succession. OpenAI aurait rencontré à la fois des difficultés techniques à la création de cette fonctionnalité misant sur l'érotisme, mais aussi sociales et éthiques. Le projet soulevait des critiques d'observateurs extérieurs, mais cristallisait aussi un certain malaise en interne.
Pas de mode adulte pour ChatGPT
OpenAI souhaiterait attendre de mener des recherches à long terme sur les effets des conversations à caractère sexuel avant de continuer le développement d'une telle option pour ChatGPT. Des craintes d'abus étaient aussi soulevées parmi les employés, dont certains estimaient aussi que la société était en train de s'éloigner de sa mission initiale : assurer que l'IA profite à toute l'humanité. Des investisseurs se seraient également opposés au mode adulte, arguant que les bénéfices potentiels étaient trop faibles face aux risques encourus.
L'entraînement des modèles d'IA chargés d'alimenter la version érotique de ChatGPT a constitué un défi compliqué pour les équipes d'OpenAI. L'utilisation d'ensembles de données incluant du contenu sexuel a posé des problèmes, et empêcher l'IA de générer des contenus illégaux s'est révélé être une tâche ardue. Par ailleurs, le système de prédiction de l'âge présenterait un taux d'erreur autour des 12 %, trop élevé pour lancer un service aussi sensible à grande échelle.
