SCORE DE SUSPICIONL’algorithme de la CAF pour détecter les fraudes est-il discriminatoire ?

CAF : L’algorithme utilisé par la Caisse pour détecter les fraudes est-il discriminatoire ?

SCORE DE SUSPICIONQuinze associations ont saisi le Conseil d’État pour obtenir la suppression de cet outil utilisé depuis plusieurs années par la Caisse nationale des allocations familiales
20 Minutes avec AFP

20 Minutes avec AFP

La Caisse nationale des allocations familiales ne s’en cache pas sur son site. Pour mieux détecter les fraudes, elle utilise depuis 2011 un outil baptisé « datamining ». « Une démarche scientifique d’étude statistique », selon l’organisme, qui « vise à déterminer des probabilités de risques pour un individu, un dossier, un traitement ». Sans le savoir, chaque allocataire se voit ainsi attribuer « un score de risque » en fonction de divers critères, de manière à mieux orienter les contrôles.

Basé sur un algorithme, ce système est aujourd’hui dans le viseur de quinze associations qui ont saisi le Conseil d’État pour obtenir sa suppression. Le recours, déposé mardi soir auprès de l’instance, « porte tant sur l’étendue de la surveillance à l’œuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisés dans leurs parcours de vie », écrivent dans un communiqué Amnesty International, la Quadrature du Net, la Fondation abbé Pierre et les autres associations requérantes.

La CAF se défend de « cibler les plus pauvres »

Ayant eu accès au « code source » de cet algorithme, les associations affirment que « parmi les facteurs venant augmenter un score de suspicion, on trouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active ou de l’allocation adulte handicapé ». Ce qui explique que « les personnes en difficulté se retrouvent surcontrôlées par rapport au reste de la population », dénoncent-elles.

Avant de saisir le Conseil d’État, les associations avaient demandé en juillet à la CAF de cesser l’utilisation de cet algorithme. Trois mois plus tard, la réponse de l’organisme se fait toujours attendre. Interrogé par l’AFP en 2023, Nicolas Grivel, son directeur général, avait assuré que cet outil n’était pas « discriminatoire » et ne ciblait « pas forcément les personnes les plus pauvres mais celles dont les revenus varient ». « Notre objectif est de limiter au maximum les erreurs déclaratives et leurs conséquences en termes de génération d’indus » avait-il déclaré.