Il existe de nombreux contenus jugés trop violents, sexuels, abusifs ou autres pour être visionnés sur les médias sociaux. TikTok, Instagram, Facebook, Twitter/X, tous modèrent leur contenu à des degrés divers, mais si tu pensais qu'il y avait un gros ordinateur derrière tout ça, tu devrais y réfléchir à deux fois.
De vraies personnes passent au crible le contenu téléchargé sur ces sites, s'assurant que même si nous ne voyons jamais de scènes horribles, elles y sont exposées de façon constante et quotidienne. La BBC s'est entretenue avec Mojez, un modérateur basé à Nairobi, sur les conséquences que cela peut avoir sur la vie d'un modérateur.
"Si tu prends ton téléphone et que tu vas ensuite sur TikTok, tu verras beaucoup d'activités, de la danse, tu sais, des choses joyeuses" a-t-il déclaré. "Mais en arrière-plan, je modérais personnellement, par centaines, des vidéos horribles et traumatisantes. J'ai pris sur moi [...] Que ma santé mentale prenne le coup pour que les utilisateurs généraux puissent continuer à vaquer à leurs occupations sur la plateforme."
Bien qu'il y ait des modérateurs à travers le monde, une grande partie d'entre eux sont basés en Afrique de l'Est, et de nombreux modérateurs affirment que le travail a détruit leur santé mentale. Certains ont entièrement quitté l'industrie, tandis que d'autres se sont rassemblés pour former un syndicat.
Des modèles d'IA sont en préparation pour effectuer cette modération, mais ils doivent être formés par des personnes, qui devront donc toujours voir des contenus macabres et abusifs. Jusqu'à ce qu'un tel outil puisse modérer parfaitement les espaces en ligne, il y aura des personnes en première ligne.
