Les rencontres en ligne réservent parfois des surprises pas très agréables… Nudes, dick pics (photo de pénis) ou autres images à caractère sexuel non consenties sont malheureusement aujourd’hui très répandues sur les réseaux sociaux. Pour lutter contre cette pratique considérée comme « la version 2.0 » de l’exhibition sexuelle, l’application de rencontres Once a décidé de mettre en place une nouvelle fonctionnalité basée sur l’intelligence artificielle (IA) pour « protéger » ses utilisatrices.

Pour éviter d’être exposé sans le vouloir à ce type de contenu, les développeurs de l’appli ont travaillé sur un algorithme qui utilise l’IA pour analyser toutes les images envoyées via le chat et qui, lorsqu’il détecte des images de nudité explicites, les remplace automatiquement… par des images d’adorables petits chatons.

« Sensibiliser sur la question du consentement »

« La récupération des données nécessaires pour mettre en place ce nouvel algorithme a été relativement facile. Les photos de nu sont évidemment assez courantes sur le Web, et nous avons eu ainsi pu entraîner l’algorithme sur des millions d’images et de photos de nus pour le rendre le plus précis possible », explique Guillaume Sempé, CTO de Once, en charge des nouvelles technologies.

L’application de rencontres, spécialisée dans le slow dating, ne met toutefois pas son véto à l’envoi de ce type de contenus. Si les photos reçues sont souhaitées, chaque utilisateur est libre de déverrouiller la fonction et de voir la photo originale. « Les utilisateurs peuvent choisir de désactiver cette nouvelle fonctionnalité. Notre intention n’est pas de limiter les échanges, mais simplement de protéger les utilisateurs au sein de notre application et en même temps de les sensibiliser sur la question du consentement », ajoute Clémentine Lalande, fondatrice et CEO de Once.

Les dick pics, une pratique très répandue

L’appli Once n’est pas la première à utiliser l’intelligence artificielle pour lutter contre la prolifération des dick pics. L’application américaine Bumble, utilisée par plus de 50 millions de personnes dans le monde, a également mis au point un algorithme capable de repérer et de masquer automatiquement ces contenus avant qu’ils ne parviennent à l’utilisateur.

La diffusion de dick pics ou le « cyberflashing » [le fait d’envoyer une image sexuelle à une personne sans son consentement] est une pratique aujourd’hui largement répandue sur les réseaux sociaux. Selon une étude réalisée par YouGov, 50 % des femmes de moins de 35 ans ont déjà reçu un contenu explicite non sollicité sur leur application de dating. Paradoxalement, seulement 12 % des hommes admettent avoir déjà envoyé des photos sexuelles non consenties sur une app de dating.