La chaîne britannique Sky News a mis au jour des dizaines de milliers de publications sur TikTok comportant des extraits de discours d’Adolf Hitler ou des marches nazis. Entre le 2 et le 3 septembre uniquement, les journalistes anglais Sam Doak et Tom Cheshire ont relevé 72.534 publications. Elles ont été likées plus de 21 millions de fois.

Les sons utilisés sont transformés en bande-son, réutilisable à souhait dans n’importe quelle autre vidéo. Un des exemples cités est un message accusant le peuple juif d’être responsable de « l’islamisation de l’Europe » et un autre contenant le texte « en mélangeant le blanc et le noir, le blanc disparaît » à côté d’une image d’illustration d’un couple mixte.

Haut niveau d’engagement et commentaires antisémites

Un autre de ces sons est issu d’un congrès Nuremberg (rassemblement annuel nazi où la politique antisémite du parti était imaginée) et est utilisé de nombreuses fois dans des vidéos où les commentaires regrettent la mort du dictateur nazi, responsable de l’extermination de millions de juifs durant la Seconde Guerre mondiale.

Les enquêteurs notent également le très haut niveau d’engagement de ces contenus. En effet, les plus de 70.000 vidéos repérées ont collecté plus de 21 millions de likes. Une vidéo comprenant un discours de Hitler a été likée 2,1 millions de fois.

Ces sons sont mélangés à un genre musical apparu récemment et qui cartonne sur TikTok, Instagram et Snapchat : le Drift Phonk. Or, les artistes et producteurs de ces musiques ne sont pas tenus au courant de l’utilisation de leurs œuvres dans de telles vidéos.

L’artiste Pastel Ghost, contacté par la Sky, « n’étais pas au courant que ma musique était utilisée de cette manière et je trouve cela choquant et déplorable ». Il travaille avec son équipe pour supprimer toutes les publications où son travail « est utilisé pour promouvoir une idéologie haineuse ».

Une modération faillible

Pour la spécialiste de la haine et de l’extrémisme à l’Institut pour le dialogue stratégique, Hannah Rose, « c’est choquant, mais ce n’est pas surprenant. Nous savons depuis plusieurs années que les plateformes ne modèrent pas suffisamment la haine et les contenus extrémistes sur leurs plateformes ».

La chaîne de télévision britannique a fait parvenir ses recherches auprès de la plateforme chinoise. « Ce contenu a été immédiatement supprimé parce qu’il enfreignait nos politiques strictes de lutte contre les discours haineux, a réagi un porte-parole. Nous formons régulièrement nos professionnels de la sécurité et mettons à jour nos mesures de protection afin de détecter en permanence les comportements haineux. Nous supprimons 91 % de ce type de contenu avant qu’il ne nous soit signalé. »

Si les 9 % prolifèrent sous les radars de la modération, c’est que les sons sont plus difficiles à contrôler. Et, selon Joe Ondrak, responsable chez Logically, une société qui surveille les contenus nuisibles en ligne, les utilisateurs qui produisent ces contenus sont tout à fait au courant de cette lacune.

« Je pense que la véritable fonction de ce type de contenu est plutôt de rassembler les personnes qui parlent la même langue, complète le spécialiste. C’est un moyen de se rassembler en toute discrétion. »