Mettre fin aux « boîtes noires ». Emmanuel Macron veut que soit publié l’algorithme de la plateforme d’orientation universitaire Parcoursup, et plus généralement tous les algorithmes utilisés par l’Etat, a-t-il indiqué jeudi en présentant la stratégie de la France en matière d’intelligence artificielle.

Il faut que « par défaut et sauf exception » les algorithmes utilisés par l’Etat soient publiés, a indiqué le chef de l’Etat lors d’un discours prononcé au Collège de France, « à commencer par Parcoursup », le système mis en place pour gérer les vœux des futurs étudiants de l’enseignement supérieur.

Le pouvoir croissant des algorithmes et l’opacité qui règne fréquemment sur la manière dont ils arrivent à leurs conclusions inquiètent les défenseurs des droits des citoyens.

Pour un « Giec de l’intelligence artificielle »

Le rapport du mathématicien et député LREM Cédric Villani sur l’intelligence artificielle insiste sur la nécessité de travailler sur les « boîtes noires » que constituent certains algorithmes, dont parfois personne ne comprend comment ils en arrivent à leurs conclusions, pas même leurs développeurs.

Emmanuel Macron a, par ailleurs, préconisé la création d’un « Giec de l’intelligence artificielle », un groupe d’experts internationaux chargés de travailler sur les questions d’éthique soulevées par les systèmes d’intelligence artificielle.

Le Giec, groupe des experts du climat de l’ONU, a établi le rôle des activités humaines dans le réchauffement et conduit à faire avancer les négociations mondiales pour limiter les gaz à effet de serre.