L’UE resserre les vis : inquiète de l’apparition de certains contenus « nuisibles » diffusés par les plateformes YouTube, Snapchat et TikTok, la Commission européenne a réclamé, mercredi 2 octobre 2024, des informations sur les algorithmes qui les mettent en avant.

L’exécutif européen, gendarme du numérique dans l’UE, invoque en particulier le besoin de protection des mineurs et exige de ces trois groupes qu’ils fournissent « davantage d’informations sur la conception et le fonctionnement de leurs systèmes de recommandation ».

Gare aux atteintes potentielles à la santé mentale

Les plateformes doivent « évaluer et atténuer adéquatement les risques » liés à leurs services en ligne, y compris les atteintes potentielles à la santé mentale des utilisateurs et la diffusion de « contenus nuisibles liés à la conception […] de ces algorithmes », a rappelé la Commission dans un communiqué.

Ces obligations découlent du règlement sur les services numériques (DSA) de l’Union européenne entré pleinement en vigueur le 17 février dernier.

YouTube et Snapchat sont en particulier priés de fournir « des informations détaillées sur les paramètres utilisés par leurs algorithmes pour recommander du contenu », ainsi que sur « leur rôle dans l’amplification de certains risques », y compris de possibles atteintes aux processus électoraux et au discours civique, a précisé la Commission.

« Éviter la manipulation par des acteurs malveillants »

La Commission européenne veut aussi connaître les mesures prises par ces deux plateformes pour atténuer l’influence de leurs algorithmes sur la promotion de discours de haine et/ou de drogues illégales.

De son côté, TikTok a été prié de fournir plus d’informations sur les moyens mis en œuvre pour « éviter la manipulation de son service par des acteurs malveillants » et « atténuer les risques pour les élections, le pluralisme des médias et le discours civique ».

YouTube, Snapchat et TikTok doivent fournir ces informations à la Commission avant le 15 novembre 2024. « Sur la base de l’évaluation des réponses, la Commission déterminera les prochaines étapes », a-t-elle souligné.

Risque de lourdes sanctions financières

Pour autant, et à ce stade, les demandes d’information annoncées ne constituent pas une mise en cause. Il s’agit toutefois d’une première étape dans une procédure qui peut conduire à l’ouverture d’une enquête formelle, et à terme à de lourdes sanctions financières en cas d’infractions avérées à la réglementation.

Les systèmes de recommandation de contenus sont au cœur de diverses procédures déjà ouvertes à l’encontre de TikTok, Aliexpress, Facebook et Instagram.