ChatGPT devient la première IA sous surveillance renforcée de l’UE, qu’est ce qui va changer ?

La Commission européenne a décidé que ChatGPT devait se conformer à la législation sur les services numériques. Reddit et Roblox sont aussi concernés.

OpenAI n’a plus les mains libres en Europe. Par voie de communiqué, la Commission européenne vient d’annoncer que ChatGPT est ajouté à la liste des plateformes soumises à la législation sur les services numériques, texte visant à protéger les utilisateurs contre les abus des géants de la tech. En dépassant les 45 millions d’utilisateurs mensuels moyens dans l’UE, ChatGPT est officiellement considéré comme un “très grand moteur de recherche en ligne”, et va par conséquent devoir se plier à un certain nombre de nouvelles règles.

“ChatGPT est un système d’intelligence artificielle (IA) qui peut interagir avec les invites et les requêtes des utilisateurs et y répondre, y compris en effectuant des recherches sur le Web. Par conséquent, ChatGPT est un service hybride qui peut être qualifié de moteur de recherche en ligne en vertu du règlement sur les services numériques”, déclare la Commission pour justifier sa décision. Même si son mécanisme de fonctionnement est bien différent de celui de Google par exemple (son mode IA à part), les deux entités doivent répondre aux mêmes contraintes aux yeux de l’UE par la finalité de leur service.

Reddit et Roblox vont aussi devoir respecter la législation sur les services numériques

ChatGPT n’est pas le seul à devoir se mettre en conformité. Le réseau social Reddit et le jeu vidéo en ligne Roblox sont aussi visés par l’UE. Ils entrent tous deux dans la catégorie des “très grandes plateformes en ligne”, car ils permettent tous deux de diffuser des contenus de tiers au public. Roblox, très prisé des jeunes, est d’ailleurs souvent considéré comme un réseau social qu’un jeu vidéo. Les joueurs s’y connectent pour se retrouver et échanger des contenus ensemble, sans qu’il y ait forcément des ambitions de gameplay derrière. Cet usage a aussi été constaté sur des titres comme Fortnite ou Minecraft.

“Avec ces désignations, la Commission obtiendra des pouvoirs d’enquête pour évaluer les fonctionnalités de ces services et, le cas échéant, tout système connexe”, précise l’organisme. Le respect de la législation sur les services numériques sera contrôlé par la Commission avec l’aide des autorités des pays dans lesquels les plateformes ont basé leur siège européen : la Coimisiún na Meán irlandaise pour ChatGPT et Reddit, l’Autorité des consommateurs et des marchés néerlandaise dans le cas de Roblox.

Les trois entreprises disposent de quatre mois pour s’adapter et répondre aux exigences de la législation sur les services numériques. L’UE attend notamment d’elles qu’elles prennent des dispositions relatives à “l’évaluation et l’atténuation des risques systémiques découlant de leur service et de leurs systèmes algorithmiques liés à la diffusion de contenus illicites”. Elles devront aussi faire attention aux effets négatifs sur les mineurs, au bien-être physique et mental des utilisateurs, aux droits fondamentaux, aux processus électoraux et à la sécurité publique.

Qu’est-ce qui change pour les utilisateurs de ChatGPT, Reddit et Roblox ?

Vous trouverez ci-dessous quelques principes parmi les plus importants de la législation sur les services numériques européenne, auxquels ChatGPT, Reddit et Roblox vont donc devoir se plier :

• Transparence en matière de suppression de contenu
• Options pour contester les décisions de modération de contenu
• Signalement simplifié des contenus illégaux
• Protection renforcée des mineurs
• Options de flux non personnalisés
• Transparence publicitaire
• Interdiction des pratiques trompeuses 
• Vendeurs vérifiés

Pour éviter les sanctions, il est possible que ces plateformes doivent supprimer ou modifier en profondeur certaines de leurs fonctionnalités. Elles peuvent décider de la faire dans le monde entier pour uniformiser l’expérience, ou simplement sur le territoire européen. On peut aussi penser que de prochaines mises à jour ne seront pas déployées ou arriveront plus tard au sein de l’UE, car elles apportent des nouveautés qui peuvent entrer en conflit avec la loi. On le voit chez Google, Microsoft ou Apple, de nombreuses options d’IA sont rendues disponibles en décalé en Europe par rapport aux autres pays, ChatGPT devrait faire de même. Notons que c’est bien la plateforme ChatGPT et non les modèles GPT d’OpenAI en général qui est concernée.

Pour l’instant, trois groupes ont déjà été sanctionnés par l’UE pour manquement à leurs devoirs : X (Twitter), Temu et AliExpress.