Jeux vidéo : Microsoft veut en finir avec les insultes en filtrant en temps réel les échanges vocaux

Sur Xbox et sur PC, Microsoft compte bien chasser les gamers “nocifs” et offrir un environnement de jeu convivial. L’entreprise teste ainsi de nouveaux filtres pour les messages textuels et vocaux.

Quiconque a déjà joué à un jeu en ligne sait qu’entre les joueurs, la bienséance et le respect ne sont pas toujours la règle. Certaines personnes donnent l’impression d’être uniquement là pour agresser textuellement, voire verbalement, les autres. Un problème dont a bien conscience Microsoft. D’ailleurs, il y a quelques mois, l’entreprise avait même donné une liste d’insultes acceptables aux gamers. Une solution apparemment peu efficace, puisque la firme de Redmond a tout récemment commencé à tester de nouveaux filtres de contenu pour son système de messagerie Xbox Live.

Microsoft va mettre en place de nouvelles options de filtrage dans les jeux vidéo

Microsoft envisage d’instaurer quatre niveaux de filtres : amical, moyen, mature et non filtré. Le premier permettrait de protéger les enfants, tandis qu’à l’opposé, le mode non filtré autorise les grossièretés. Pour lire un message censuré sur un compte enfant, il faudra se connecter avec un compte adulte, afin d’éventuellement le signaler. Bien entendu, tout ceci serait facilement géré via le contrôle parental et s’appliquerait à l’ensemble de l’écosystème Xbox.

Bon, jusque-là, rien de très révolutionnaire par rapport aux systèmes de filtrage de messages actuels. Mais pour l’instant, toutes ces techniques ne prennent pas en compte un élément primordial : le contexte. Selon Dave McCarthy, responsable des opérations Xbox chez Microsoft, de véritables opérations de lynchage ont lieu dans des sessions multijoueurs. Elles cibleraient notamment des gens de couleurs ou de la communauté LGBT. Pour Dave McCarthy, « si nous voulons vraiment réaliser notre potentiel en tant qu’industrie et faire connaître ce merveilleux média à tout le monde, il n’y a pas de place pour ça ». Autre exemple concret de la notion de contexte : dire « je vais faire un carnage et massacrer tout le monde » sur Call of Duty n’a pas la même portée que de le dire dans Animal Crossing New Leaf. C’est sur cette notion de contexte que Microsoft souhaite concentrer ses efforts. À sa disposition, il y a bien sûr l’intelligence artificielle.

De l’aveu de McCarthy, « Trouver des moyens de comprendre le contexte et les nuances est une bataille sans fin ». Notre confrère de The Verge a toutefois pu éprouver le nouveau système de Microsoft et il reconnait qu’il fonctionne plutôt bien. Aucun de ses messages offensants n’est passé entre les mailles du filet, en dépit du recours aux stratagèmes habituels, tels que des accents ou des symboles.

Les messages vocaux : Microsoft prend le problème à bras le corps

Mais s’il y a bien un secteur dans lequel tout reste à faire, c’est celui du filtrage des échanges vocaux. Sur ce plan, Microsoft a un projet ambitieux : élaborer un système ressemblant un peu à ce qu’on entend à la télévision, avec des « bips », mais en temps réel. Parmi les pistes étudiées pour y parvenir, la plus sérieuse serait la transposition du message oral en texte écrit.

Vous vous en doutez, cette pratique soulèverait de nombreuses questions. Sur le plan technique, elle requiert un système de transcription de haut niveau, et pose le défi de la latence induite par l’analyse du message en temps réel. Un point problématique dans le cadre d’un jeu, puisque la parole sert à renseigner rapidement ses équipiers. Sur le plan éthique, elle suppose que l’entreprise écoute et transcrive tous les échanges des utilisateurs, puis bride leur liberté de paroles dans certains cas. Sur le plan juridique en revanche, cela ne serait pas considéré comme une atteinte à la liberté d’expression. En effet, plus tôt cette année, la Cour Suprême des États-Unis a indiqué que le principe de liberté d’expression ne s’appliquait pas à des plateformes privées comme le Xbox Live.

Enfin, Microsoft met également en avant sa volonté de transparence. Dave McCarthy explique “Si nous voulons demander à nos utilisateurs d’être responsables de leurs actions sur Xbox Live et nos autres services, nous devons être transparents sur notre système de valeurs, nos pratiques et pourquoi nous faisons ce que nous faisons ». Ainsi, la firme envisage d’avertir directement les comptes sanctionnés et expliquer les raisons de la condamnation.

Source : The Verge