Applications de rencontre : les modérateurs sont à bout face aux contenus insupportables

Une enquête menée auprès d’anciens et actuels modérateurs d’applications de rencontre montre qu’ils sont mis psychologiquement en danger par les contenus qu’ils ont à traiter.

Les applications de rencontre sont légion. En règle générale, on en parle quand elles ajoutent une fonctionnalité amusante, Tinder qui propose à votre mère de choisir votre futur rancard par exemple. Ou quand elles se basent sur des informations auxquelles on ne pense pas, comme The League qui pioche dans votre profil LinkedIn pour trouver votre âme sœur. Moins fréquemment, elles sont à l’honneur en cas de polémique. On pense à Crush (Friendly), application qui inquiète les parents.

En coulisse pourtant, toutes ont un point commun : elles exposent leurs modérateurs à des contenus traumatisants. Ana (ce n’est pas son vrai prénom) intègre les équipes de Grindr alors qu’elle a un peu plus de 20 ans. Quelques années plus tard, elle quitte son emploi avec un diagnostic de dépression, d’anxiété, et de syndrome de stress post-traumatique. “J’étais tellement angoissée que lorsque je suis sortie faire des courses, j’ai perdu connaissance à deux reprises”, raconte-t-elle. Ana n’est pas un cas isolé. De nombreux modérateurs, en poste ou non, relatent des conséquences similaires.

Les modérateurs d’applications de rencontre sont souvent confrontés à des contenus insoutenables

Chaque fois que vous signalez un contenu sur un application comme Grindr, Bumble, Hinge ou autre, le message atterrit chez un modérateur. Ce dernier doit décider si l’utilisateur incriminé mérite d’être banni, et s’il faut escalader le cas à une équipe en charge des situations complexes. On parle ici de situations d’abus sexuels, de violences homophobes, de pédophilie, voire de meurtres. Un jour, plusieurs modérateurs de Grindr reçoivent un signalement. En pièce jointe, des photos montrent un enfant abusé sexuellement. “Trois d’entre nous sont partis ce jour-là… Ils n’ont pas pu le supporter”, se souvient l’un des concernés.

Toujours chez Grindr, les 14 anciens modérateurs interrogés se rappellent tous de cas de ce genre. La détresse psychologique des membres de l’équipe devenait palpable.”Les gens pouvait la sentir… Ils remarquaient la tension, l’hostilité de l’environnement. C’était horrible”. Pour l’un d’eux au moins, la situation a conduit à des tentatives de suicide, pendant et après son contrat dans l’entreprise. Les employés subissent souvent en silence, de peur de perdre leur emploi et d’avoir du mal à en trouver un autre. Du côté de la direction, ces problèmes sont la plupart du temps éludés au profit de la productivité.

Moins d’effectifs, plus de pression, les modérateurs sont souvent seuls face aux situations difficiles

Au fil des ans, les applications de rencontre, marché très lucratif ayant rapporté 2,6 milliards de dollars en 2022, cherchent à maximiser leurs profits. Toutes réduisent les équipes de modération locales (américaines) pour délocaliser ces tâches au Honduras, Mexique, Brésil, en Inde, aux Philippines… Où le salaire moyen est beaucoup plus bas qu’aux États-Unis. Sauf que le nombre de signalements ne diminue pas, au contraire. Laura (c’est un pseudonyme), ex-membre des équipes en charge des cas escaladés par les modérateurs chez Bumble, se souvient.

Lire aussi – Tinder : cette IA se propose de décrocher des rendez-vous à votre place sur le site de rencontre

Si la FAQ du site affirme qu’un signalement est traité en 48h, c’est en réalité beaucoup plus long. Ils ne sont pas examinés pendant des semaines parfois, malgré leur gravité. “Il n’y avait pas assez de personnel pour couvrir la quantité de choses qui se produisaient. Plutôt que d’embaucher […], ils nous ont mis la pression pour que nous obtenions de meilleurs chiffres”. Les rapports sont traités selon un système de file d’attente avec un code couleur. Ils sont rouges s’ils sont là depuis trop longtemps. “Tout était toujours rouge, tout le temps”, confie Laura.

Ce travail en sous-effectif n’est pas sans conséquence. En attendant que le dossier soit traité, l’utilisateur potentiellement dangereux peut toujours sévir. Sur Hinge, une femme a signalé une agression sexuelle après un rendez-vous. Faute de moyens suffisants, il a fallu attendre qu’elle poursuive l’homme en justice un an plus tard pour qu’il soit enfin banni de l’application. Les directions des différents sites et applis de rencontre assurent pourtant qu’elles prennent le problème très au sérieux.

Des équipes de soutien psychologique sont mises en place, avec une attention particulière aux modérateurs. Des formations spécifiques sont également prévues à l’embauche puis tout au long de la carrière. Sarah Bauer, porte-parole de Grindr, indique que l’entreprise “continuera à investir massivement” dans des processus d’automatisation qui protègent les modérateurs des contenus difficiles.

Source : Wired