Un algorithme pourrait-il devenir féministe un jour ? Peut-être. En tout cas, pour l’heure, celui de Facebook et Instagram (du groupe Meta) est misogyne et sexiste. C’est ce qu’explique une étude de plusieurs journalistes australiens qui se sont penchés sur le sujet. Et la conclusion est plutôt inquiétante.

Afin d’analyser l’impact des algorithmes sur notre utilisation des réseaux sociaux, un groupe d’étude a décidé de créer plusieurs faux profils de jeunes hommes âgés de 24 ans sur Instagram et Facebook. Le dessein était d’observer quel genre de contenu serait initialement montré à ces nouveaux utilisateurs totalement neutres.

Ces comptes imaginaires n’étaient pas en contact initial avec les plateformes. Les chercheurs se sont servis de téléphones portables non liés à des comptes antérieurs. Et les résultats sont sans appel : pour ces primo-usagers d’Instagram et Facebook, en trois jours l’algorithme leur propose des contenus stéréotypés, puis sexistes et misogynes. Et tout ça, gratuitement et sans effort.

« Leurs propres choix »… Ou pas

Dans sa présentation à l’enquête du Parlement fédéral sur les médias sociaux, Meta déclarait utiliser « une gamme d’algorithmes différents » pour aider à classer le contenu affiché dans les flux sur Facebook et Instagram, certains aidant « à comprendre quel contenu est le plus significatif pour les gens afin que nous puissions l’ordonner en conséquence dans leurs flux », comme le rapporte The Guardian.

Meta déclarait que ce que les gens voient est « fortement influencé par leurs propres choix et actions » et que « le fil d’actualité de chaque personne est hautement personnalisé et spécifique ». « Notre système de classement personnalise le contenu pour plus d’un milliard de personnes et vise à montrer à chacune d’entre elles le contenu que nous espérons le plus précieux et le plus significatif, chaque fois qu’elles viennent sur Facebook ou Instagram. »

Un amplificateur de la réalité

Pourtant… Selon les tests faits en Australie, l’algorithme part avec un biais sexiste dès l’inscription. Sur Instagram, la section « explorer » n’attend pas de connaître les goûts de l’utilisateur pour montrer des images de femmes dénudées ou des profils qui dégradent l’image de la femme. Mais le groupe Meta n’est pas le seul, TikTok ou encore YouTube propagent également davantage de contenus nuisibles pour certains groupes : les minorités.

TikTok, Instagram et Facebook sont le reflet de la société et exacerbent les problématiques : ils sont dominés par des hommes, blancs mis en avant à l’aide des algorithmes. L’algorithme reflète souvent des préjugés sociétaux persistants et renforce des stéréotypes existants. « Les réseaux sociaux sont un amplificateur de la société. S’il y a de plus en plus de jeunes femmes progressistes, il y a aussi de plus en plus de jeunes garçons rétrogrades », explique Anaïs Loubère, spécialiste des réseaux sociaux.

Mais pour propager du contenu sexiste, il faut du contenu sexiste, alors… à qui la faute ? A l’œuf ou à la poule ? « Les mascus ont bien compris comment buzzer sur le dos des femmes, et l’algorithme cherche à faire vendre… alors on va mettre en avant des contenus qui font réagir et malheureusement ce n’est que rarement des publications mignonnes et gentilles qui ne font du mal à personne. Entre les comptes sexistes et l’algorithme, c’est finalement un effet boule de neige. Et derrière, il y a des utilisateurs pour en profiter », résume Emmanuelle Patry, fondatrice de Social Media Lab.

Il faut alors aussi éduquer les algorithmes en plus des garçons pour faire avancer et non reculer la société.