«Sur un tableau blanc, une liste de catégories rappelle aux employés ce qu’ils cherchent: pornographie, gore, mineurs, avances sexuelles, images d’organes génitaux, racisme.» Bienvenue aux Philippines, dans l’une de ces entreprises à qui Facebook, Twitter, Whisper et d’autres sous-traitent la modération des contenus postés par leurs utilisateurs.

Le magazine Wired a pu rencontrer certains de ces travailleurs des réseaux, qui passent leurs journées à examiner des contenus dont l’intensité sur une échelle du banal et de l’horreur va de la photo d'un plat au restaurant aux vidéos de décapitation. «En 25 minutes, Baybayan élimine une quantité impressionnante d’images de phallus, de photos de strings, d’objets exotiques insérés dans des corps, de diatribes haineuses et de petites annonces pour du sexe oral», décrit ainsi le journaliste.

Crises d’angoisse et dépressions

Selon un ancien responsable de la sécurité de Myspace interviewé dans le reportage, «plus de 100.000 personnes» dans le monde seraient affectées à la modération des réseaux sociaux –deux fois le nombre d’employés de Google, 14 fois celui de Facebook-, dont «l’attrait grand public dépend en grande partie de leur capacité à contrôler les contenus de leurs utilisateurs».

Les employés chargés de filtrer ces contenus sont de plus en plus recrutés aux Philippines, dont les liens culturels avec les Etats-Unis leur permettent «de mieux déterminer ce qui choque les Américains», tout en étant payés à des salaires très nettement inférieurs: 312 dollars par mois pour l’un, 500 dollars pour un autre avec trois ans et demi d’ancienneté. Leur existence n’est pas formellement reconnue par Microsoft, Google ou Facebook, qui préfèrent laisser croire qu’«Internet et les technologies fonctionnent un peu par magie, pas par intervention humaine.»

Beaucoup de ces modérateurs rencontrés par le journaliste de Wired, des Philippines aux Etats-Unis – où ces tâches sont souvent confiées à de jeunes diplômés- confient leur dégoût grandissant pour un travail qui paraissait attrayant sur le papier mais dont les journées passées à observer sans filtre les bas-fonds du Net se terminent souvent par des crises d’angoisse et des dépressions.