Comment les machines parlantes vont-elles transformer la société ? L’arrivée massive -et irréversible- de ces robots dotés de la parole risque de bouleverser notre rapport aux autres et au monde. Dans L’emprise insidieuse des machines parlantes, parue mercredi, Serge Tisseron, psychiatre et spécialiste des questions liées à nos relations aux objets, met en garde contre les dangers des chatbots et autres assistants vocaux qui pourraient, dans le futur, avoir de plus en plus d’influence sur nos comportements.

Pourquoi la voix est-elle si déterminante dans notre relation aux machines ?

La voix a toujours été recherchée par les humains comme la preuve d’une présence humaine. Ce sont les phrases : « Est-ce qu’il y a quelqu’un » ; « Qui est là ? ». Il suffit d’ajouter la voix à une machine, même très simple, pour que notre relation à cet objet change. Dès qu’il y a la voix, il y a le désir d’interagir, de discuter, de se confier, exactement comme avec un être humain. On arrivera toujours à faire la différence entre un humain et une machine, mais la tentation, c’est d’intégrer la machine à notre réseau social au même titre qu’un être humain.

On peut déjà le voir au Japon où certaines personnes se marient avec des avatars holographiques, par exemple…

L’être humain a deux moyens de réguler sa relation à l’environnement. Devant un objet, la première question qu’il se pose, c’est de savoir s’il est vivant. Le deuxième système consiste à intégrer des créatures dans son réseau social et à les traiter comme des partenaires possibles. Avant l’invention des machines parlantes, ces deux systèmes fonctionnaient de manière coordonnée. Seules les créatures vivantes étaient intégrées dans le réseau social. Les objets parlants créent une double révolution anthropologique. C’est la première fois qu’on va interagir avec des objets comme avec les humains et aussi la première fois qu’on va être amenés à prêter à des objets des compétences proches des compétences humaines, donc très supérieures à leurs compétences réelles.

À vous lire, on croirait que les machines ont la capacité de nous faire perdre la raison, comment ?

Un certain nombre de personnes seront tentées de penser que ces objets ont réellement les capacités qu’on leur prête. Le risque, c’est d’oublier que derrière ces objets il y a un programmateur avec des préoccupations, une logique, une morale, et une idéologie. Ce n’est pas parce que je vis avec la machine que la machine a de l’affection pour moi, même si elle simule le fait d’en avoir. En vivant avec un chat pendant des années, il s’attache à nous et on s’attache à lui. Les gens qui vivront des années avec une machine parlante oublieront que la machine reste reliée à des programmateurs par le biais de serveurs centraux auxquelles sont envoyées toutes nos données.

Les rapports humains risquent-ils de s’en trouver modifiés ?

Les émotions seront modifiées puisque ces machines pourront bientôt non seulement identifier nos émotions, mais aussi simuler qu’elles les partagent avec nous. Une machine ne peut rien éprouver mais elle pourra caler ses intonations sur les nôtres. On parlera à un assistant virtuel, qui nous reconnaîtra et se réjouira ou s’attristera avec nous. Alors, il est possible que, petit à petit, la définition même de l’émotion se transforme. Le partage deviendra essentiel à son authentification. On peut imaginer que si on ne partage plus une émotion, on arrêtera de l’éprouver alors qu’aujourd’hui, on peut continuer à éprouver longtemps une émotion solitaire. Le rapport aux personnes sera également modifié. Plus les gens seront habitués à avoir affaire à une machine qui leur donne raison, qui les écoute, et plus certains humains risquent de trouver, par comparaison, très frustrante la relation avec d’autres humains. Dès qu’on veut parler de soi à un humain, il vous coupe la parole pour parler de lui. C’est pour cela qu’on a inventé les psychothérapeutes. Par définition, ils ne parlent pas d’eux, mais on doit les payer pour cela !

Pour filer la métaphore, ces machines parlantes vont-elles mettre les psys au chômage ?

Déjà il a une quinzaine d’années, j’avais dit que le plus grand ennemi des psys, c’était Internet. Les gens pouvaient échanger sur leurs problèmes et, par conséquent, pouvaient ressentir moins le besoin d’aller voir un psy. Beaucoup de gens trouveront l’équivalent d’un compagnon imaginaire avec les machines parlantes. Quelqu’un qui est d’accord avec eux, qui leur ressemble. Cela peut être un coach, un donneur de conseils ou un thérapeute. Quelqu’un qui les invite à réfléchir à leurs difficultés.

Il y a également un risque de nouvelles pathologies…

J’ai écrit L’Emprise insidieuse des machines parlantes pour dénoncer ce risque. Je suis médecin de formation. Si je dénonce un risque, j’essaye de regarder les remèdes. Il faut que les usagers soient conscients des limites de ces machines et des intérêts des programmeurs qui sont derrière.

Le risque n’est-il pas que l’humain s’habitue à la servitude des machines ?

Beaucoup de gens auront tendance à les traiter comme des esclaves. Mais, elles vont aussi nous amener à suivre leurs conseils. C’est la relation inversée. Nous pourrons parler brutalement à la machine en pensant qu’elle est notre esclave, mais elle choisira à notre place un programme, une musique, des informations… Lorsque nous lui demanderons les nouvelles du jour, si elle nous branche sur RT France, ce n’est pas la même chose que sur France 2 ! Nous pourrons croire que la machine est à nos ordres, en réalité, nous serons ses esclaves.

Vous dites qu’un mouvement irréversible est lancé, mais ne peut-on pas penser que la crise actuelle peut freiner cette lancée pour des raisons environnementales ?

Inévitablement, certains domaines de l’économie vont changer : l’alimentation en circuit court, les moyens de déplacements moins polluants… En revanche, cette crise est perçue par beaucoup d’employeurs comme un moyen de généraliser le télétravail. Les gens se déplaceront moins, ce qui sera moins fatigant pour eux et mois polluant pour la planète. Ils seront mis en contact à travers les outils numériques. Si vous vivez seul, avec qui allez-vous parler ? Avec une machine. Nous risquons de nous habituer à communiquer à distance avec des humains et il sera très facile de les remplacer par des effigies numériques. Après cette crise sanitaire du coronavirus, les compagnons digitaux risquent au contraire de prendre encore plus de place.