Deux associations israéliennes ont indiqué en septembre dernier avoir identifié sur WhatsApp un groupe de 256 personnes échangeant des fichiers pédopornographiques. Les organisations à but non lucratif (ONG) Netivei-Reshet et Screensaverz ont facilement pu découvrir la conversation, les photos et les vidéos.

Il suffisait en effet de repérer des avatars explicites ou de taper le mot-clé « CP » (« child pornography », pornographie infantile) pour accéder aux images d’abus sexuels. Les ONG ont immédiatement notifié Facebook, propriétaire de WhatsApp, de leur découverte. Mais le Financial Times indiquait ce jeudi que le groupe était toujours actif.

Trop peu de modérateurs

La situation serait notamment due au chiffrement des contenus, mis en place en 2016, qui rend les messages inaccessibles aux responsables de WhatsApp comme aux gouvernements. Autre piste possible : les effectifs limités de l’équipe de modération. Cette dernière ne compterait que 300 personnes pour l’ensemble de l’application au 1,5 milliard d’utilisateurs. À titre de comparaison, Facebook compte plusieurs milliers de modérateurs.

Pour contourner les protections du contenu et épauler les modérateurs, WhatsApp explique avoir recours à l’intelligence artificielle (IA). Les dirigeants de l’appli utilisent un algorithme qui parcourt les contenus et fermerait chaque jour plusieurs milliers de comptes dont les propriétaires violent les règles de la messagerie.