Etats-Unis : Un algorithme raciste a privé des patients noirs d’une greffe de rein dont ils avaient besoin

Certains algorithmes sont racistes. Ce fait est connu depuis plusieurs années, mais dans le cadre médical, c’est une première. Une intelligence artificielle (IA) utilisée par des médecins américains pour évaluer la nécessité d’une greffe de rein aurait ainsi tendance à défavoriser les patients Afro-Américains, selon une étude publiée le 15 octobre dans Journal of General Internal Medicine.

L’outil est programmé pour faire le bilan rénal des patients et signaler ceux dont la situation est la plus critique. Mais l’algorithme a été conçu de telle manière que l’état de santé des personnes noires est sur-noté.

Plus de 60 patients privés de greffe

Pour arriver à leurs conclusions, les auteurs de l’étude ont analysé les dossiers médicaux de 57.000 patients d’un réseau d’établissements de Boston et des environs. Ils ont constaté que la pathologie rénale d’un tiers des patients noirs aurait été jugée plus grave si elle avait été évaluée selon les mêmes critères que celle des patients blancs.

Leur découverte concerne 700 malades. Avec un système de notation universel, 64 d’entre eux auraient été éligibles à une greffe de rein. Or aucun d’entre eux n’a bénéficié d’un don d’organe.

L’IA à l’origine de cette inégalité a été ouvertement programmée pour tenir compte de la couleur de peau des sujets. Les conséquences sont « sidérantes », commente Mallika Mendu, coautrice de l’étude. « Nous savons qu’il existe déjà d’autres inégalités face à l’accès aux soins et à la prise en charge des pathologies », déplore la spécialiste du rein. « Cela n’aide pas. »