L’algorithme cible spécifiquement “les bénéficiaires déjà vulnérables dans leur parcours de vie”, selon les associations, qui dénoncent une “discrimination”.
Quinze associations ont annoncé mercredi 16 octobre saisir le Conseil d’Etat pour obtenir la suppression d’un algorithme utilisé par la Caisse nationale d’allocations familiales (CNAF) pour lutter contre la fraude sociale. Ils dénoncent notamment les critères utilisés pour attribuer un « score de suspicion » et déterminer les bénéficiaires qui doivent faire l’objet d’un contrôle.
Le recours, déposé mardi soir auprès de l’instance, “concerne à la fois l’ampleur de la surveillance au travail et la discrimination opérée par cet algorithme envers des allocataires déjà fragilisés dans leurs parcours de vie”, écrit dans un communiqué Amnesty International, Quadrature du Net, la Fondation Abbé Pierre et les autres associations demanderesses.
« Cet algorithme attribue à chaque bénéficiaire
un score de suspicion dont la valeur permet de sélectionner les personnes soumises au contrôle.
Plus il est élevé, plus la probabilité d’être contrôlé est grande », soulignent-ils, précisant que cet outil « analyse les données personnelles de plus de 32 millions de personnes vivant dans un foyer bénéficiaire d’une prestation de la CAF ».
Après avoir eu accès au « code Source » d’une version de cet algorithme, utilisé entre 2014 et 2018, les associations affirment que « parmi les facteurs augmentant un score de suspicion, on retrouve notamment le fait
avoir de faibles revenus, être au chômage, bénéficier d’un revenu de solidarité active
(RSA) ou l’allocation adulte handicapé (AAH) ».
Contrôle excessif des personnes en difficulté
« En contrepartie, les personnes en difficulté se retrouvent surcontrôlées par rapport au reste de la population », dénoncent-ils.
En juillet, les associations ont demandé à la CNAF de cesser d’utiliser cet algorithme : « Dans la mesure où nous n’avons pas reçu, au bout de deux mois, de réponse de la CNAF, cela a donné lieu à une décision implicite de refus », explique à
AFP
Katia Roux, chargée de défense de la technologie et des droits de l’homme à Amnesty.
Utilisé depuis 2011, l’outil statistique vise à
identifier parmi les 13,5 millions de bénéficiaires les plus susceptibles de commettre des erreurs
dans leur déclaration, avaient indiqué au
AFP
en novembre 2023 le directeur général de la CNAF, Nicolas Grivel.
Les bénéficiaires de certains minima sociaux, comme le RSA ou la prime d’activité, dont les revenus varient souvent, doivent remplir des déclarations de revenus trimestrielles aux formulaires complexes et risquent davantage de commettre des erreurs. Selon la CNAF,
cet algorithme vise à identifier ces bénéficiaires pour effectuer des contrôles rapidement et rectifier les erreurs
.
“Notre objectif est de limiter au maximum les erreurs déclaratives et leurs conséquences en termes de génération de revenus indus”, avait alors déclaré Nicolas Grivel, affirmant qu’elle n’était “pas discriminatoire” et
ne cible pas forcément « les plus pauvres mais ceux dont les revenus varient »
.
Related News :