ChatGPT : il s’adonnait au sexting avec le chatbot, maintenant OpenAI menace de le bannir

Un membre de Reddit a partagé avec la communauté un email qu’il a reçu en provenance d’OpenAI. La startup lui reproche de mal utiliser ChatGPT et le menace de lui couper l’accès au chatbot.

Le membre de Reddit se prénommant Whwhsdh a publié un email envoyé par OpenAI. « Nous vous contactons en tant qu’utilisateur de ChatGPT, car certaines des requêtes associées avec votre email ont été signalées par nos systèmes comme étant en violation de notre politique. Veuillez vous assurer d’être en conformité avec nos consignes, car votre accès au service pourrait être coupé si nous détectons d’autres problèmes à l’avenir ».

Le message est clair, cet internaute risque le bannissement, mais qu’a-t-il fait de mal ? Whwhsdh l’avoue dès le début de sa publication : « je m’adonne au sexting avec ChatGPT depuis le début, et j’améliore constamment mes compétences en matière de jailbreaking. Parfois, mes requêtes sont marquées en rouge ou en orange, mais je n’ai jamais eu de problèmes auparavant. Aujourd’hui, tout de suite après que l’une de mes requêtes a été signalée par un drapeau orange, j’ai reçu un mail menaçant de couper l’accès au service ».

Vous faites du sexting avec ChatGPT ? OpenAI pourrait vous envoyer un email de menace

Les réactions à la publication de notre trublion ne se sont pas fait attendre. Un membre lui rappelle ainsi qu’il y a « une raison pour laquelle ils ont mis en place des filtres sur ChatGPT, et si tu décides de briser délibérément ces filtres […] alors OpenAI n’a d’autre choix que de t’exclure pour éviter que d’autres dommages ne soient causés ».

À lire — ChatGPT : le clone IA de cette influenceuse déraille et tient des propos salaces à ses followers

Contourner les limitations imposées par OpenAI sur ChatGPT est devenu un sport très populaire auprès des nombreux geeks qui cherchent à éprouver les limites du chatbot. On a ainsi récemment découvert qu’il suffit d’utiliser des emojis pour pousser l’IA à créer un ransomware. Par ailleurs, les fausses applications qui cherchent à vider vos comptes bancaires avec l’aide de l’IA générative sont désormais légion dans les magasins d’application. Cela dit, et il est toujours bon de le rappeler : OpenAI suit votre activité sur ChatGPT.