Recours visant à obtenir l’abandon par la CNAF d’un traitement algorithmique discriminatoire
À l’initiative de La Quadrature du Net (LQDN), quinze organisations ont déposé le 16 octobre 2024 devant le Conseil d’État un recours destiné à exiger de la Caisse nationale des allocations familiales (CNAF) qu’elle abandonne l’algorithme qu’elle utilise pour repérer la fraude ou, plus exactement, détecter les trop-perçus. Cet algorithme attribue à chaque allocataire un score de suspicion sur la base duquel sont sélectionnées les personnes faisant l’objet d’un contrôle. Le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l’allocation adulte handicapé (AAH) font partie des critères de suspicion.
Les personnes étrangères figurent au premier rang des personnes « suspectes » car elles sont surreprésentées parmi les publics précaires directement ciblés par ces critères. À ceci s’ajoute que les trop-perçus que l’algorithme doit détecter ont pour cause principale des erreurs déclaratives involontaires ; or les règles d’attribution des prestations sociales sont particulièrement complexes pour le public étranger dont la situation est souvent plus difficile à appréhender (absence de travail, travail discontinu ou à temps partiel, etc.). Ce qui augmente le risque d’erreurs, donc le risque d’être suspecté, contrôlé, et finalement privé de prestations.
La Quadrature du Net ayant demandé sans succès à la CNAF d’abroger la décision de mettre en oeuvre le traitement de données qui permet d’établir le score de risque contesté, la requête vise à obtenir l’annulation de la décision implicite du directeur de la CNAF refusant de faire droit à sa demande et à ce qu’il soit enjoint à la CNAF de cesser de mettre en oeuvre ce traitement.
La requête s’attache à démontrer que le traitement litigieux, qui comporte des données sensibles, n’obéit pas aux normes du RGPD (Règlement général sur la protection des données) de l’UE et de la loi Informatique et Libertés, en s’appuyant notamment sur la jurisprudence de la CJUE (Cour de Justice de l’Union européenne). Le traitement algorithmique mis en oeuvre relève en effet de l’article 22 du RGPD car il conduit les personnes concernées à faire l’objet d’un profilage ou, à tout le moins, d’une prise de décision fondée exclusivement sur un traitement automatisé. Or l’article 22 pose comme principe le fait qu’une « personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire. »
La requête conteste aussi le traitement au regard du droit au respect de la vie privée et familiale, droit auquel l’utilisation des données personnelles qui y figurent porte une atteinte non nécessaire et disproportionnée au regard de l’objectif poursuivi. En effet le traitement algorithmique litigieux traite un volume considérable de données personnelles, relatives à des détails très précis de la vie des personnes concernées, alors qu’il serait possible de poursuivre la finalité de récupération d’indus par des moyens moins attentatoires aux droits et libertés.
Enfin, la requête dénonce l’existence d’une discrimination indirecte découlant de l’utilisation du traitement litigieux : discrimination fondée notamment sur la particulière vulnérabilité du public concerné, combinée avec d’autres critères, comme le nombre d’enfants, le sexe, la situation familiale, le lieu de résidence, l’âge ou la situation de handicap. Les effets discriminatoires du traitement ont été mis en lumière par plusieurs études qui ont constaté une « tendance au ciblage croissant des allocataires les plus précaires, à commencer par ceux qui perçoivent les minima sociaux », augmentation « encore plus marquée en ce qui concerne les prestations légales versées aux populations les plus fragiles »
>> Voir le communiqué et le dossier de presse ici
Partager cette page ?