Quatre bonnes raisons d’avoir peur des robots

Les robots, c’est vieux comme le monde. La preuve avec l’exposition Persona, étrangement humain (jusqu’au 13 novembre 2016) imaginée par le musée du quai Branly, à Paris. En incluant le point de vue de civilisations non-occidentales sur la question des « quasi-personnes », ces objets auxquels on confère un pouvoir, une volonté propre ou une fonction dans la société, au point d’en faire des êtres, l’exposition démontre que bien avant les robots, les humains se sont entourés de ce genre d’objets-personnes.

La peluche robot Paro a été conçue pour accompagner les enfants hospitalisés - AIST/Haruyoshi Yamaguchi

En occident, les robots sont les quasi-personnes les plus répandues. Et à l’instar des amulettes précolombiennes, des statuettes africaines ou des bouddhas indiens, s’ils sont là pour nous rendre service, il faut aussi s’en méfier explique l’anthropologue Emmanuel Grimaud. Chargé de recherche au CNRS et co-commissaire de l’exposition, il travaille avec des roboticiens et a constaté que « les ingénieurs en robotique ne se posent aucune question d’ordre éthique. » Il détaille quatre raisons de se méfier des « quasi-personnes » que sont les robots.

1. On ne sait pas ce qu’ils ont dans la tête

« Un ordinateur, ça chauffe, ça bugge. Alors on s’énerve, on l’insulte. Un ordinateur a des états, pas forcément émotionnels mais parfois on sent qu’il s’emballe. Il semble qu’on a affaire à une personne cyclothymique. On peut établir une grammaire des états pré-émotionnels des machines et donc leur donner une sorte de personnalité. Or, on ne sait rien de leur intériorité. » Pour Emmanuel Grimaud, même sans apparence humanoïde, les robots informatiques sont humanisés par leurs utilisateurs qui en font des alter ego. Mais méritent-ils la confiance qu’on leur accorde alors qu’on comprend si mal leur logique ?

Prototype de dispositif immersif cybersexuel haptique - Yann Minh

2. Les roboticiens ne sont pas dans le camp des humains

Pour Emmanuel Grimaud, se pose une question fondamentale de civilisation à propos des robots. « Ces objets-là conquièrent un pouvoir, avec notre collaboration ou malgré nous, peu importe. Il y a là un problème éthique et politique, estime-t-il. Or, dans la Silicon Valley, le transhumanisme est quelque chose de complètement accepté. Le rêve des chercheurs actuellement, c’est le "mind uploading", la possibilité de scanner et stocker le contenu d’un cerveau humain sur un disque dur. » La course en avant technologique n’est jamais remise en question par l’éthique ou même la logique économique. Les voitures-robots vont, ainsi, poser de nombreuses questions éthiques. Il faudra programmer ses robots pour qu’il choisisse qui sauver, en cas de danger, du passager ou du piéton, par exemple. « On complexifie considérablement nos rapports avec les robots alors même que nous n’avons pas besoin de voitures-robots, c’est absurde. »

3. Les humains sont les cobayes

« On fabrique des robots d’apprentissage mais on ne sait pas avec quoi on joue, s’alarme l’anthropologue, habitué à fréquenter des roboticiens. Ces gens sont ouverts et curieux mais n’ont aucune formation en questions éthiques. Aujourd’hui, c’est le robot qui crée la demande. Les roboticiens cherchent à nous vendre des compagnons artificiels dont nous n’avions peut-être pas besoin. Dans ce contexte, nous, humains, sommes les cobayes, nous expérimentons les relations homme-machine imaginées par les roboticiens. Aujourd’hui, il y a deux camps. Ceux qui rêvent de machines autonomes et ceux qui veulent que l’humain reste aux commandes, comme un marionnettiste. » Pour appuyer sa démonstration, le chercheur oppose les robots qui assistent les chirurgiens aux robots humanoïdes qui, au Japon, se marient avec des humains. « On fait tout notre possible pour oublier que ce sont des robots en leur donnant une autonomie de réaction. »

Robot de divination imaginé par l’artiste Bhaishyavani - MQB/Claude Germain

4. On devient des robots

« Seul 5 % de la robotique est de forme humanoïde, explique Emmanuel Grimaud. Les robots logiciels ou les robots industriels sont massivement majoritaires. Pourtant, quand il s’agit de concevoir des robots-compagnons, les roboticiens ont une vision restrictive. Or, il y a des alternatives. On peut créer de l’empathie autrement qu’en nous tendant un miroir. » S’appuyant sur des traditions en Inde ou en Afrique, et sur le travail d’artistes contemporains dont les œuvres sont présentées dans l’exposition, les commissaires montrent que les humains ont peu à peu tendance à abandonner aux robots leur quête d’absolu.