La modération automatique des contenus numériques conduit parfois à des situations ubuesques. Comme le rapporte Presse-Citron, les développeurs de l’application Just (Video) Player, qui permet d’éditer des vidéos de manière simple, en ont récemment fait les frais.

En effet, ils ont été informés par Google que leur produit avait été supprimé du Play Store, en raison d’une infraction à la « politique relative au contenu sexuel et aux insultes ». Une annonce surprenante, étant donné que leur application était pourtant parfaitement en règle.

Google s’excuse

Les développeurs ont très vite compris d’où venait la méprise. L’un des formats de sous-titres disponibles sur l’application comprend l’extension «. ass », pour « Advanced Sub Station alpha ». L’algorithme du géant du web a cru qu’il s’agissait du mot « ass », qui signifie « cul » en français.

Fort heureusement, Google s’est empressé de remettre l’application en ligne lorsque ses équipes ont été prévenues de l’erreur. L’entreprise en a profité pour présenter ses excuses. Il n’est pas rare que des logiciels soient confrontés à ce type de situation, qui peut se révéler encore plus problématique lorsqu’il est question de contenus réellement dangereux.