La saison 4 de Black Mirror débarque sur Netflix le 29 décembre prochain. Et, alors que vous rattrapez les trois premières saisons tout en vous goinfrant de chocolat ou de pop-corn, allongé confortablement dans votre sofa, sachez que la réalité n’a pas grand-chose à envier à la fiction de Charlie Brooker, le créateur de génie de la série. Notre réalité peut basculer à tout moment en mauvais rêve, mais la différence, c’est qu’il sera trop tard pour éteindre votre téléviseur (loin de nous l’idée de vous faire paniquer). Pour mettre un pied dans le futur, des chercheurs et spécialistes des nouvelles technologies nous confient leur pire cauchemar.

« Des pathologies mentales nouvelles apparaîtront»

Serge Tisseron, psychiatre et psychanalyste, spécialisé dans les rapports aux nouvelles technologies

« L’être humain a toujours interagi avec son environnement en projetant sur lui ses pensées, ses émotions et ses sentiments. Ce mode de relation a constitué un avantage considérable en lui permettant d’établir des différences entre le monde inanimé, les animaux et ses semblables. Avec les robots capables de tenir une conversation et de simuler les émotions humaines, certains d’entre nous risquent de croire que ces machines ont la capacité de "ressentir", voire de "penser" exactement comme nous. Ce serait oublier qu’elles resteront toujours sous le contrôle de leurs fabricants, et qu’elles lui transmettront toutes nos données personnelles. Nos robots seront nos "amis", mais en même temps nos mouchards ! Toute la difficulté sera d’interagir avec eux comme avec des êtres humains tout en gardant à l’esprit qu’ils n’en sont pas. La psychologie en sera bouleversée. Le 21e siècle devra construire la psychologie de l’homme confronté à des machines fondamentalement différentes de lui, et qui lui ressembleront pourtant de plus en plus. Des pathologies mentales nouvelles apparaîtront, tandis que des comportements jugés pathologiques, comme le désir de garder près de soi un robot à l’effigie d’un mort, pourraient devenir une nouvelle normalité. Mon cauchemar est que des robots conçus pour s’adapter exactement à nos attentes nous rendent moins tolérants au caractère imprévisible de l’humain. Certains d’entre nous pourraient préférer la compagnie des robots à celle de leurs semblables, tandis que d’autres pourraient demander à leurs semblables d’être aussi prévisibles, gratifiants et finalement bons simulateurs que les robots. Le robot deviendrait le modèle de l’homme ! »

« Cette idée de puce dans le cerveau me terrorise »

Jean-Gabriel Ganascia, chercheur en intelligence artificielle, président du comité d’éthique du CNRS

« Cette idée de puce dans le cerveau me terrorise parce que, si c’était le cas -moi je n’y crois pas-, cela voudrait dire que nous n’aurions plus d’intériorité. Tout ce que nous savons serait disponible sur les réseaux et nous pourrions le manipuler. Tout le monde pourrait accéder à ce que nous pensons, ce serait affreux. Une transparence totale serait abominable. Les méchancetés que nous pensons secrètement sur tout le monde, imaginez. Nous pourrions lire dans les pensées mais ce serait affreux ».

« Un monde où on aurait été trop vite dans l’adoption des technologies »

Nathanaël Jarrassé, chercheur à l’Institut des systèmes intelligents et de robotique (Isir)

« J’intitulerais mon épisode : "Un monde en panne". La technologie est de plus en plus présente et les dispositifs technologiques sont de plus en plus compliqués. En parallèle, on essaie de la simplifier, de l’effacer, et les utilisateurs n’ont pas la moindre idée du fonctionnement de ces dispositifs. Le risque, c’est qu’on se mette à vouer un culte à la technologie, ou, au contraire, à la craindre. J’ai peur des positions extrêmes qui pourraient naître en réaction au fait que nous ne sommes plus en maîtrise. Réparer une voiture demande des compétences techniques de plus en plus complexes. Et, en informatique par exemple, on construit sur des briques élémentaires. Les roboticiens prennent des technologies existantes et construisent par-dessus. Que va-t-il se passer si, à force, plus personne ne savait comment fonctionnent certaines briques de base technologiques nécessaires à tout le monde. Par exemple, il y a des petits programmes informatiques -des librairies- utilisés par des centaines de projets. Le jour où notre librairie n’est plus maintenue, de nombreux services vont tomber en panne et on va mettre un temps fou à comprendre d’où vient le problème. Dans un monde de start-up où on valorise l’innovation au détriment de la maintenance, j’imagine le cas extrême où des gens avec des organes artificiels implantés, non-réversibles, se retrouveraient coincés avec un dispositif qui n’est plus maintenu parce que la start-up aurait fait faillite. Mon cauchemar, c’est un monde où on aurait été trop vite dans l’adoption des technologies.

« Pour moi la dystopie ultime, c’est l’abandon du corps »

Laurent Alexandre, spécialiste des nouvelles technologies

« Pour moi la dystopie ultime, c’est l’abandon du corps. L’idée de former un seul grand esprit dématérialisé, c’est le fantasme posthumain. C’est d’ailleurs pour cette raison que l’avant dernier chapitre de mon livre La guerre des intelligences, c’est Sauvons le Guide Michelin, c’est-à-dire sauvons notre corps. Des gens comme Raymond Kurzweil, chez Google, promeuvent l’idée qu’on doit abandonner notre corps physique, transférer notre cerveau dans des microprocesseurs et finalement devenir une intelligence artificielle sans corps physique. On devient une espèce d’esprit numérique mélangé aux autres esprits numériques, sans corps, sans autonomie, avec des intelligences qui peuvent se dupliquer. C’est la perte totale de notre humanité. Ce serait l’horreur technologique. Les épisodes de Black Mirror paraissent presque mièvres à côté de cette idée. »