Les algos rythment notre quotidien. Il suffit d’une recherche Google ou d’un passage sur Facebook pour qu’ils soient à l’œuvre. Un chauffeur Uber ou un livreur à vélo leur obéissent au doigt et à l’œil. Quand nous prenons la route, c’est eux qui optimisent nos trajets et nous font contourner les bouchons. Sans compter les transactions financières ou diagnostics médicaux qu’ils réalisent. Pourtant, beaucoup d’entre nous sont bien en peine de les définir précisément. Selon une étude IFOP, 52 % des Français ne savent pas vraiment de quoi il s’agit précisément. Une façon simple de les définir est de les rapprocher d’une recette de cuisine : ils ne sont rien de plus qu’une suite d’instructions utilisée pour résoudre un problème.

Surtout, en parallèle de cette méconnaissance, les inquiétudes grandissent : « Les algorithmes sont les nouvelles machines du XXIe siècle, ce sont des boîtes noires », écrit la Commission nationale de l’informatique et des libertés (CNIL) en lançant le 23 janvier un cycle de débats publics afin de réfléchir aux craintes qu’ils suscitent : Les algorithmes sont-ils les nouveaux décideurs ? Quelle transparence à l’ère des algorithmes ? Comment préserver notre libre arbitre dans un monde algorithme ?

Serge Abiteboul et Gilles Dowek, tous deux professeurs à l’Ecole Normale Supérieure de Paris-Saclay et chercheurs à l’Inria, entament Au temps des algorithmes, qui paraît ce vendredi 27 janvier, avec un rappel pas si superflu : « Nous craignons les algorithmes parce que nous les voyons comme des êtres mystérieux, dotés de pouvoir surnaturels, voire d’intentions maléfiques. Nous ne devons jamais oublier qu’ils n’ont en eux-mêmes aucune intention. Ils ont été conçus par des êtres humains. Ils sont ce que nous avons voulu qu’ils soient ». La « vraie question » est alors de savoir comment les rendre transparents et les contrôler. Entretien.

Les algorithmes existent depuis toujours. Comment expliquer les craintes et fantasmes qu’ils concentrent ces derniers mois dans le débat public et médiatique ?

Gilles Dowek : Ce qui est récent, c’est la prise de conscience de leur omniprésence dans nos vies. Le fait que les gens ne comprennent pas vraiment ce que c’est et qu’ils en aient peur est concomitant. En tant qu’informaticiens nous pensons que nous avons une responsabilité particulière pour expliquer ce qu’est un algorithme, et nous battre contre les craintes irrationnelles. Mais il y a aussi des craintes rationnelles : je ne crois pas que les algorithmes limitent notre liberté de choix, au contraire, ils l’augmentent. Et c’est justement ce que nous pouvons ressentir comme dangereux.

Serge Abiteboul : On a toujours tendance à penser qu’une décision prise par un algorithme est opaque et incompréhensible. Or que se passait-il avant ? Si l’on prend l’exemple de l’ algorithme de l’admission post-bac : une décision était prise par un être humain, avec tous ses préjugés et ses biais personnels. La décision n’était pas plus juste ni transparente. Elle pouvait même être plus arbitraire, avec des tirages au sort et des commissions qu’on ne connaissait pas. Aujourd’hui, l’algorithme a été discuté par des humains, qui se sont mis d’accord sur des choix. En revanche pour casser l’opacité, cela demande qu’on puisse voir ces algorithmes, en discuter. Et que les citoyens soient capables de les comprendre pour participer au débat.

Gilles Dowek : Prenons un second exemple. Je me suis rendu un jour dans une très grande librairie parisienne. Je leur dis que j’ai envie de lire tel livre. Ils ne l’ont pas. Le libraire me conseille de lire tel autre livre à la place. Avant, notre liberté de choix était plus réduite. Aujourd’hui, beaucoup plus de conseils nous arrivent ; certains viennent d’algorithmes. On peut lire le livre que l’on veut, mais on se retrouve face à des millions de livres. C’est la bibliothèque de Babel. Et le choix est plus difficile.

Si l’on reste sur l’exemple des livres, nous avons justement une infinité de choix au sein de laquelle des algorithmes de recommandation, comme celui d’Amazon, veulent nous guider. Quitte à nous enfermer, à force de vouloir prédire nos envies…

Serge Abiteboul : Beaucoup de critiques vis-à-vis des algorithmes tiennent de leur méconnaissance. Il n’y a rien dans l’informatique qui dit qu’un algorithme de recommandation doit vous restreindre et vous enfermer dans votre petite bulle. Les systèmes de recommandation ont fait énormément de progrès, celui d’Amazon n’est d’ailleurs par terrible, celui de Netflix est bien meilleur. On les améliore sans cesse. On pourrait par exemple donner à l’internaute un « bouton » pour demander plus de sérendipité.

La crainte ne vise pas tant les algorithmes eux-mêmes que le pouvoir que leur donnent les GAFAS (Google, Amazon, Facebook, Apple) sans que l’on puisse les contrôler ?

Serge Abiteboul : Que faire contre cela, c’est en effet la vraie question. C’est un choix que chacun doit faire. J’étais très content d’utiliser Google jusqu’à ce que je décide de passer au moteur de recherches français Qwant parce que j’en avais marre de livrer à Google toutes mes données. Il y a des règlements, il y a la CNIL, pour veiller à ce que l’on soit mieux protégé. Mais il n’y a pas de malédiction qui voudrait que l’on soit pieds et mains liés aux GAFA. Personne n’est obligé de rester chez eux.

Les algorithmes gouvernent-ils de plus en plus le débat politique ? Que vous inspire le postulat qui veut qu’ils confinent les internautes dans un environnement fermé, qu’Eli Pariser appelle « bulle filtrante », et largement débattu à l’occasion de l’élection de Trump ?

Gilles Dowek : La manière de faire de la politique change complètement à chaque fois que les technologies évoluent. L’imprimerie a soudain permis aux textes d’être largement accessibles. Par exemple, au XVIIIe siècle, la Déclaration universelle des droits de l’homme s’est diffusée très rapidement. Une de nos thèses est que nos institutions politiques actuelles sont bonnes pour le 18ème siècle… et qu’il faut inventer de nouvelles formes de participation. La loi sur le numérique en France, ou la constitution de l’Islande, ont par exemple été largement discutées en ligne.

L’élection de Trump a aussi mené à un débat sur la responsabilité de Facebook vis-à-vis des « fake news », que le réseau a abondamment relayées…

Serge Abiteboul : Ce n’est pas facile de vérifier les informations surtout sur des volumes tels que ce qui s’échange sur Facebook. Mais les algorithmes de fact-checking vont inévitablement se développer. On est dans cette phase de transition où les outils informatiques ne sont pas encore complètement développés pour répondre à un monde où quelques journaux ont été remplacés par des milliers, des millions, de sources d’information.

Gilles Dowek : Qu’Internet conserve la mémoire de l’information est d’ailleurs un progrès en ce sens. Une recherche sur la gifle reçue par Manuel Valls m’a mené par hasard sur un résultat montrant une gifle adressée par Manuel Valls à un militant. Internet donne une hypermnésie et cette possibilité de comparer les déclarations [des politiques] d’hier et d’aujourd’hui bénéficie au fact-checking.

L’autre grande crainte que suscitent les algorithmes porte sur le « vol » de nos emplois. Votre livre invite à penser « la fin du travail ». Faut-il se faire à l’idée que nous travaillerons de moins en moins ?

Gilles Dowek : Il y a ce que nous appelons le paradoxe de l’informaticien au supermarché. Quand un informaticien fait la queue au supermarché et regarde le caissier et la caissière, il se dit que c’est un métier vraiment pénible, et qu’il faudrait le ou la libérer de ses chaînes en trouvant un moyen de le remplacer par une machine. Mais le jour où l’on licencie des caissiers, ces gens se mettent en grève et disent : « on a perdu notre emploi ». Or l’informaticien est convaincu que le remplacement de ce travail pénible est un progrès pour l’humanité. Ce que nous proposons, c’est de distinguer la fin du travail de la fin du revenu.

Serge Abiteboul : La question n’est plus la suppression du travail du fait du remplacement des tâches par des algorithmes et des robots : c’est déjà en train d’arriver. La question est : comment vit-on dans une société où il y a moins de travail ? Le problème devient celui du partage de richesse. Si ces personnes ne travaillent pas, que deviennent-elles ? Il faut remplacer la notion de travail telle que nous la connaissons. On sort du cadre où l’homme travaille pour se nourrir. A différents moments de sa vie, une personne peut décider de travailler, d’étudier, de s’occuper de la vie de la cité, des personnes âgées. Et les revenus du fruit du travail de machines doivent être partagés…

Votre livre fait à peine mention de l’intelligence artificielle, pourtant omniprésente ailleurs, 2017 étant annoncée comme « l’année de la grande bascule vers l’IA ». J’imagine que c’est volontaire…

Gilles Dowek : Le fait de se focaliser sur l’IA comme on le fait depuis Alpha Go nous semble une manière d’obscurcir les questions. Le seul mot d’« intelligence » convoque tout un tas de fantasmes, renvoie au mythe de Golem, à Pygmalion et Galatée, Pinocchio et Gepetto… En revanche, ce que nous soulignons en fin d’ouvrage, c’est que les algorithmes nous invitent à redéfinir le concept même d’intelligence.

Serge Abiteboul : Depuis 70 ans, le défi est d’arriver à faire faire à des machines des tâches de plus en plus complexes, sans qu’on se pose forcément les questions : Est-ce de l’intelligence artificielle ? De l’ intelligence artificielle forte ou faible ? Ce débat-là en particulier, je ne sais pas bien ce qu’il veut dire ! Les tâches que des programmes informatiques réalisent sont de plus en plus des tâches qui demandent de l’intelligence quand elles sont réalisées par des humains. Les chercheurs cherchent à aller toujours plus loin, à proposer des solutions les plus fortes possible…

Les plus jeunes ont une perception beaucoup plus positive des algorithmes. Les 18-24 ans les voient « comme une opportunité » permettant « plus de choix », selon l’étude IFOP…

Serge Abiteboul : C’est tout à fait normal, car les jeunes sont toujours plus disposés que les autres à adopter les nouvelles technologies. Mais ils ne comprennent pas les algorithmes de façon innée. On peut très bien savoir comment utiliser un iPad ou être la reine d’un jeu vidéo et ne pas savoir écrire des programmes. Il faut qu’ils apprennent l’informatique à l’école !

Vous préconisez un enseignement des algorithmes et de l’informatique dès l’école. A partir de quel âge et sous quelle forme ?

Gilles Dowek : Nous pensons qu’il est souhaitable d’enseigner l’informatique à tous les niveaux, dès le début, à travers des jeux. A la maternelle ou à l’école primaire on peut introduire des notions, même sans ordinateurs. C’est « l’informatique débranchée ». Dès la maternelle, les enfants pourraient par exemple avoir des camions télécommandés, avec quatre symboles : quatre flèches indiquant la droite, la gauche, l’avant ou l’arrière. Avec cela ils accèdent à une forme d’abstraction dont on a besoin dans l’informatique. Comprendre l’informatique, c’est aussi important que de savoir lire ou écrire.