Comment le monde numérique nous asservit-il sans même que nous nous en rendions compte ? Et surtout, comment nos rapports sociaux se sont-ils modifiés à l’ère des réseaux sociaux, des algorithmes (et de leurs biais), des bulles de filtres et des fake news ? Dans Servitudes virtuelles (Seuil), publié vendredi dernier, Jean-Gabriel Ganascia, chercheur en intelligence artificielle et président du comité d’éthique du CNRS, dresse un état des lieux passionnant de notre société bouleversée par la toute-puissance du numérique qui confisque peu à peu notre liberté. Il revient pour 20 Minutes sur ce constat inquiétant.

Comment vous est venue cette notion de « servitudes virtuelles », qui est aussi le titre de votre ouvrage ?

L’idée de servitude dans l’ère numérique m’est venue assez tôt. Le monde numérique offre énormément de possibilités et en même temps, on a le sentiment d’être un peu esclaves. On est tenus en laisse. Le titre Discours de la servitude volontaire de La Boétie est intéressant parce que, justement, ce n’est pas du tout volontaire. Je trouvais intéressant de montrer que dans le cas actuel, ces chaînes n’ont l’air de rien, le numérique ne fait pas peur, ce n’est pas un monde contraignant et en même temps, si on prend vraiment conscience de cette réalité, on peut essayer de s’en libérer.

« « Si toute l’information que vous recevez correspond à votre profil, vous envisagerez le monde avec un certain prisme et vous n’aurez aucun moyen de le savoir » »

Dans quelle mesure l’homme a-t-il perdu sa liberté dans un monde, le numérique, où la liberté semble illimitée ?

Dans le livre, je parle des organismes informationnels, ce sont les moteurs de recherche sur les réseaux sociaux. Ils sont indispensables dans le monde numérique et en même temps, leur pouvoir sur nous est impalpable. La première étape, c’est d’en prendre conscience pour en maîtriser les enjeux. Tous ces organismes informationnels ont un pouvoir de plus en plus considérable et les possesseurs de ces organismes informationnels prennent un empire de plus en plus grand sur le monde. L’information qui nous arrive est filtrée. Si toute l’information que vous recevez correspond à votre profil, vous envisagerez le monde avec un certain prisme et vous n’aurez aucun moyen de le savoir. Et surtout, l’espace commun, de discussion et de débat, tend à se réduire. Parce qu’on est dans un monde où, à la fois, on a la liberté de savoir, on peut accéder à l’information, mais en même temps, on a un tas de suggestions qui biaisent la lecture qu’on peut avoir du monde.

Quelles sont les conséquences sur l’humain ?

Cela a d’abord des conséquences sur le régime politique. Même dans des pays où les institutions démocratiques sont respectées comme en Europe ou aux Etats-Unis, cela les biaise. La politique devient du marketing. On utilise dans le monde de la politique, les outils qu’on utilise pour faire de la publicité ciblée, c’est ce qui est assez troublant aujourd’hui.

Vous évoquez dans votre livre des « nouvelles formes de censures », que voulez-vous dire par là ?

C’est la dernière des réontologisations [la redéfinition des valeurs primordiales de la société liée à la connectivité] que j’envisage. Un Etat ne peut pas se constituer sans contrôler l’information. Nous sommes des générations qui, a priori, souhaiteraient abolir toute censure parce que nous avons oublié qu’il y a des types d’informations qui sont difficilement admissibles, des incitations à la violence, des diffamations… Elles tombent sous le coup de la loi. Le problème, c’est qu’on n’est plus capables de filtrer, à partir du moment où tout le monde peut diffuser de l’information à loisir. Il y a tellement de messages qu’il est difficile de le faire. Il faudrait fabriquer des machines qui soient capables de censurer, mais elles risquent d’être encore plus privatrices de liberté parce qu’elles seront automatiques. La censure a posteriori pourrait réprimer des gens qui auraient enfreint la loi, qui auraient envoyé des messages diffamatoires, par exemple. C’est possible à condition que tout le monde relève de la même loi, mais Internet étant universel, il suffit qu’il y ait des acteurs déterritorialisés pour ne pas relever de cette loi. Ce terme de « censure » est intéressant. C’est une réécriture curieuse parce que, comme on n’ose plus employer le terme, on n’appelle pas ça « censure », mais cela relève tout à fait de ce qu’était la fonction de la censure.

Vous parlez aussi de la transformation des relations amicales dans le monde numérique, pensez-vous qu’il n’y a plus de place pour l’amitié au sens classique du terme ?

J’ai essayé d’analyser comment des notions anciennes comme l’amitié évoluent dans le monde moderne. J’ai repris Ethique à Nicomaque d’Aristote où il détaille la notion d’amitié. Il distingue différents types d’amitié : l’amitié par intérêt ; l’amitié parce qu’on a des passions communes, on aime la chasse ou les timbres, par exemple. Il y a des réseaux sociaux spécifiques pour différentes formes d’amitié : des réseaux pour l’amitié au sens intérêt professionnel, comme LinkedIn ; des réseaux où vous allez trouver des personnes qui ont une passion commune avec vous. La dernière forme d’amitié, qui fait qu’on a une affinité vraiment particulière avec une personne, est-ce qu’elle subsiste avec le numérique ? Le fait que vous ayez des nouvelles de l’ami à travers les réseaux fait que vous allez prendre moins de temps pour lui téléphoner, lui écrire. Cette forme d’amitié peut subsister mais vous prenez moins soin de votre ami, or ce type d’amitié demande de consacrer du temps, de s’investir. Le numérique transforme un peu la nature de l’amitié.

« « Il faut se demander : quelles sont les façons de reprendre possession de tous ces territoires perdus ? » »

Quelle différence voyez-vous entre le monde numérique qui biaise notre jugement, amenuise notre liberté de pensée et notre esprit critique et s’attaque aux piliers de la démocratie et une dictature ?

C’est d’une nature différente. Dans une dictature, un homme prend le pouvoir à son propre profit. Là, vous avez un certain nombre de grands groupes industriels qui ont du pouvoir. Mais je suis d’accord que le résultat est comparable. Le débat public qui doit permettre à tout le monde d’échanger, est confisqué. Et du point de vue cognitif, on n’a plus les moyens d’accéder à toute l’information, il y a trop d’informations. En 2018, on avait sorti un avis dans le cadre du comité d’éthique du CNRS sur la posture du scientifique à l’ère de la post-vérité. Et la difficulté c’est : dans un monde traversé par des informations fallacieuses, comment faire pour pouvoir expliquer au grand public qu’il y a des choses manifestement fausses ? C’était avant la pandémie, et la pandémie nous a montré à quel point c’était encore plus difficile que ce qu’on imaginait à l’époque. C’est d’autant plus dur qu’on est dans un univers où il y a un refus d’autorité.

Avec l’arrivée en trombe du métavers, quels dangers voyez-vous pour le futur ?

Ce que j’anticipe c’est la continuation de ce que je décris, des risques d’asservissement. Mon inquiétude, c’est que ces grands acteurs prennent une place encore plus importante, il faut être extrêmement vigilant face à eux. Il faut se demander : quelles sont les façons de reprendre possession de tous ces territoires perdus ? La question de la souveraineté est importante. Symboliquement, c’est le peuple qui gouverne à travers un certain nombre d’institutions et c’est ça qui est mis en défaut aujourd’hui. Le grand problème de ces acteurs c’est qu’ils ont une politique complètement indépendante, personne ne vote pour Google ou pour Facebook. Au moment de la Covid-19, j’ai été surpris que beaucoup s’inquiétaient de l’application StopCovid, parce qu’elle menaçait nos libertés. Ils avaient raison au sens où il fallait être prudent, mais il n’y avait pas de comparaison avec les autres acteurs comme Google et Apple. Or il n’y a aucun contrôle sur eux. On a affaire à de nouveaux pouvoirs qui s’instituent.