Afin de mieux distinguer le vrai du faux, TikTok veut aider ses utilisateurs à distinguer les images authentiques de celles réalisées au moyen d’une intelligence artificielle (IA). Le réseau social de Bytedance réfléchirait ainsi en ce moment à une manière de signaler les vidéos conçues de manière artificielle, selon un article de The Information paru ce lundi.

Ce signalement prendrait la forme d’un message « discret » que les créateurs auraient la possibilité d’afficher sur leur contenu, sur le même modèle que les badges « publication sponsorisée », rapporte Numerama. Ce procédé ne repose donc que sur l’honnêteté des créateurs de contenus et TikTok n’a pas indiqué comment elle vérifierait l’application de cette mesure.

Les deepfakes déjà interdits sur TikTok… en théorie

De même, on ignore encore si cette mention concernerait les vidéos entièrement conçues avec une IA ou aussi celles partiellement créées avec cette technologie. Interrogé sur cette nouveauté par le média The Wrap, TikTok n’a fait aucun commentaire, rappelant simplement que « la confiance est à la base de notre communauté » et qu’il « travaillait constamment » à améliorer la transparence sur sa plateforme.

Une telle mesure concernant les vidéos faites au moyen d’une IA serait une première. Elle est d’autant plus essentielle sur TikTok, où de nombreuses vidéos de type deepfake circulent sans modération. C’est sur ce réseau social qu’une fausse chanson de Drake, en pseudo-duo avec The Weeknd, a ébranlé la toile en avril.

TikTok tente déjà de réagir au phénomène. Depuis mars 2023, certains types de deepfake sont interdits de diffusion et les créateurs sont obligés de préciser quand les contenus ont été créés via l’IA. Le message sur la vidéo elle-même serait un nouveau signe que l’application, très prisée des adolescents, veut réagir en rendant plus lisible le parcours des utilisateurs sur la plateforme.