Discord supprime par erreur plus de 8000 comptes à cause de son IA de modération catastrophique

Se faire bannir de Discord parce que l’on a partagé la capture d’écran d’un tableur Excel, voilà ce qui est arrivé à de très nombreux utilisateurs de la plateforme ces derniers mois. La firme a fini par confirmer que le problème venait de son côté, plus précisément de son IA de modération, et qu’elle travaille actuellement à restaurer les comptes supprimés.

Discord IA
Crédits : 123RF

Discord n’est pas exactement la plateforme la plus populaire du moment — et pourtant, il y a de la concurrence dans le domaine. Son image a été très largement entachée par l’affaire de la vérification d’âge, qui a imposé à ses utilisateurs de prendre un selfie vidéo pour s’assurer qu’ils n’enfreignent pas le règlement en la matière. Situation qui ne s’est pas vraiment arrangée lorsque l’on a découvert que, malgré ses promesses, les selfies en question sont bien traités par une entreprise tierce.

On dirait que les choses ne sont pas près de s’arranger pour Discord. La plateforme se retrouve depuis quelques jours au cœur d’une autre polémique, qui, surprise, concerne encore une fois l’intelligence artificielle. Sur les forums et autres réseaux sociaux, plusieurs utilisateurs se sont en effet plaints d’avoir perdu accès à leur compte, supposément pour des raisons de sécurité. Pourtant, ils n’avaient rien fait pour enfreindre les règles du service.

Sur le même sujet — Discord se tire une immense balle dans le pied en voulant limiter la casse de son annonce controversée

L’IA de Discord a banni des milliers de comptes par erreur

Tout au plus, ils ont partagé une image tout à fait inoffensive. Ils sont par exemple plusieurs à expliquer avoir perdu leur compte juste après avoir partagé l’image d’un simple tableur Excel, ou une capture d’écran de Minecraft. Dans un thread posté hier sur X (anciennement Twitter), Discord explique enfin ce qu’il s’est passé — et admet au passage que la faute lui revient. Incroyable mais vrai, son IA de modération a mal fait son travail.

« Nos systèmes signalent certains contenus en les comparant à des contenus nuisibles connus. Ce type de comparaison par similitude peut donner lieu à des faux positifs », écrit la plateforme. Cela explique pourquoi les images de tableurs ont été particulièrement ciblées, car elles ressemblent à des techniques employées par certains internautes pour camoufler des images illicites, comme de la pédopornographie.

Discord indique qu’environ 8200 comptes ont été supprimés par erreur depuis mai dernier, dont 200 seulement au cours du dernier week-end. Elle promet que ces derniers seront bientôt rétablis.

Réagissez à cet article !

Demandez nos derniers articles !

Google aurait pu sauver cette fonction du Pixel 11, mais a finalement fait marche arrière

À l’occasion de la sortie du Pixel 11, Google a abandonné certaines technologies. Mais un potentiel prototype du Pixel 11 Pro révèle que la firme de Mountain View aurait pu…

Google supprime un bouton essentiel de son moteur de recherche au profit de l’IA

Le plus célèbre des moteurs de recherche évolue une nouvelle fois. Google est en effet en train de refondre son interface, qui perd certains boutons au profit de l’intelligence artificielle….

Pourquoi certains VPN se font bloquer et pas d’autres ? Voici comment Proton VPN vous redonne une liberté totale

Pour votre sécurité, l’un des réflexes à adopter lorsque vous vous connectez à un WiFi public ou inconnu, c’est d’utiliser un VPN. Seulement, sur certains réseaux, et même à l’échelle…

Volkswagen prépare une Polo électrique de 362 chevaux, voici le monstre

À l’occasion du 50ᵉ anniversaire du légendaire badge GTI, Volkswagen s’apprête à dévoiler un monstre de puissance. Il s’agit de l’ID. Polo GTI Clubsport, la Polo électrique la plus puissante…

Tesla décroche une nouvelle autorisation en Europe, et ce n’est pas un petit marché

L’entreprise d’Elon Musk vient de décrocher une nouvelle victoire en Europe. L’Italie vient d’accorder une autorisation provisoire à Tesla, lui permettant de déployer son système de conduite assistée dans le…

Une IA d’Anthropic aurait résolu l’un des plus grands mystères des mathématiques

Chez Anthropic, un mathématicien affirme avoir démontré une hypothèse visant à résoudre un problème mathématique particulièrement complexe. Le chercheur indique avoir réalisé cet exploit en utilisant l’IA Claude de l’entreprise….

Samsung baisse drastiquement le prix de ses TV micro RGB pour la sortie de GTA 6 : jusqu’à 1 100 € de réduction, seulement aujourd’hui

Les téléviseurs Micro RGB comptent parmi les modèles les plus haut de gamme du catalogue de Samsung. Et pour la sortie de GTA 6, la marque propose jusqu’à 1 100…

GTA 5 tourne à 60 FPS sur Switch 2, un développeur réalise l’impensable

Au lendemain de la sortie de GTA 6, un développeur a réussi une prouesse technique concernant le précédent opus de la franchise. Celui-ci est parvenu à faire tourner GTA V…

Galaxy S27 : prix, sortie, fiche technique, nouveautés, tout ce que l’on sait sur les prochains smartphones Samsung

Samsung va lancer sa nouvelle génération de smartphones haut de gamme, les Galaxy S27, dans un contexte tendu de crise de la mémoire. Les nouveautés vaudront-elles leur prix ? Après…

Test Xiaomi Serrure Intelligente : simple à installer, complète, mais un peu bruyante

On ne présente plus l’intérêt des serrures connectées, pour les propriétaires louant leur bien, mais aussi pour les particuliers qui ne veulent pas multiplier les doubles de clés parfois très…