Il n’est pas question d’un épisode de Black Mirror, mais bien de la vraie Chine d’aujourd’hui. Ces dernières années, la réalité a mis une sacrée claque à la fiction et la dystopie a pris le chemin de l’Empire du milieu. A l’occasion de la parution le 4 septembre dernier de I.A. La plus grande mutation de l’histoire, de Kai-Fu Lee, 20 Minutes fait le portrait du futur qui se dessine déjà dans plusieurs provinces du pays.

« L’ambition avouée [du gouvernement central] est de faire [de la Chine], d’ici à 2030, le leader mondial de l’innovation en intelligence artificielle sur le plan de la recherche, des technologies et de leurs applications », écrit le cerveau de l’IA en Chine dans son livre. Le bond technologique commence à faire trembler les grands acteurs de la Silicon Valley. Reconnaissance faciale, surveillance, contrôle des populations, système de récompense… Bienvenue en Chine.

L’arrivée du « crédit social »

Le pays a lâché les chevaux en 2017 après le « moment Spoutnik », décrit par Kai-Fu Lee comme une prise de conscience de la population lorsque Alpha Go, le programme informatique de Deepmind, a battu le Coréen Lee Sedol, champion du monde de Go. « Tout à coup, des ingénieurs américains et britanniques se mettaient à battre les meilleurs joueurs asiatiques de go alors que ces mêmes ingénieurs ne connaissaient rien à ce jeu », pointe Charles Thibout, chercheur à l’IRIS et spécialiste de l’IA. L’État et le parti communiste mettent alors les moyens nécessaires pour répondre à leur nouvel objectif : devenir la première puissance en IA. « Leur budget officiel est de 20 milliards de dollars par an et il doit monter à 60 milliards de dollars annuels d’ici 2025 », précise Charles Thibout. Ça pourrait être déjà bien plus.

Deux ans après, les BATX (les géants du Web chinois Baidu, Alibaba, Tencent et Xiaomi) se posent en sérieux concurrents des mastodontes américains et le système de reconnaissance faciale est sur toutes les lèvres. Le « crédit social », basé sur la collecte d’informations sur les réseaux sociaux et via les caméras de surveillance intelligentes, pointe le bout de son nez. Fumer dans un espace public, être grossier, utiliser un billet de train périmé, présenter des excuses qui ne sont pas jugées « sincères », boire trop d’alcool… Les incivilités ne sont pas sans conséquences. Plusieurs dizaines de municipalités ont déjà mis en place des systèmes de notation qui récompensent et pénalisent les citoyens en fonction de leur comportement. Sauf que le barème et les critères d’évaluation de la « fiabilité » d’une personne ne sont pas les mêmes d’une ville à l’autre.

« Obéir aveuglément à l’autorité »

A Pékin, on peut perdre des points pour avoir mangé dans le métro, à Shanghai pour avoir promené son chien sans laisse. Certains sont carrément interdits d’avion ou de train. Si, dans la capitale on a plus de chances de trouver un job avec un crédit élevé, dans la ville de Qinghuangdao, la récompense prend la forme d’un « certificat de citoyen modèle » ou d’un examen médical annuel gratuit. Le gouvernement central compte créer un système de crédit social couvrant tout le pays d’ici la fin de l’année 2020.

« Ce n’est pas seulement le fait de ne pas boire en conduisant ou de payer son ticket de bus, il s’agit aussi de respecter un ensemble de codes moraux, pointe Charles Thibout. C’est propre à l’idéologie de la Chine contemporaine dont l’idée est de réintroduire une bonne dose de confucianisme dans les mœurs chinoises. » Cette philosophie telle qu’elle a été réinterprétée au fil des siècles « consiste à obéir aveuglément à l’autorité », observe-t-il. Une manière de contrôler la population, de manipuler son comportement et de l’infléchir par la contrainte et la peur. Ambiance 1984.

Ne rigolez pas trop, le cauchemar orwellien dopé à l’intelligence artificielle guette aussi la France. « On utilise déjà la reconnaissance faciale, y compris à des fins sécuritaires, rappelle Charles Thibout. L’an passé, Gérard Collomb a proposé d’utiliser des caméras intelligentes – qui reposent sur des techniques de reconnaissance d’images – pour repérer des gens susceptibles de commettre des délits. » C’est déjà en route et, selon le chercheur à l’Iris, ce n’est pas parce que nous sommes des démocraties libérales que notre pays est à l’abri de telles dérives ». Tous les moyens sont réunis pour se mettre à l’heure de Black Mirror. Il ne manque plus que le pouvoir tombe entre de mauvaises mains…