Amendement n°1012
Auteur
Sophie Taillé-Polian
Pouria Amirshahi
Christine Arrighi
Clémentine Autain
Léa Balage El Mariky
Lisa Belluco
Karim Ben Cheikh
Benoît Biteau
Arnaud Bonnet
Nicolas Bonnet
Cyrielle Chatelain
Hendrik Davi
Emmanuel Duplessy
Charles Fournier
Marie-Charlotte Garin
Damien Girard
Steevy Gustave
Catherine Hervieu
Jérémie Iordanoff
Julie Laernoes
Tristan Lahais
Benjamin Lucas-Lundy
Julie Ozenne
Sébastien Peytavie
Marie Pochon
Jean-Claude Raux
Sandra Regol
Jean-Louis Roumégas
Sandrine Rousseau
François Ruffin
Eva Sas
Sabrina Sebaihi
Danielle Simonnet
Boris Tavernier
Nicolas Thierry
Dominique VoynetExposé des motifs
Plusieurs mesures étendent massivement l’accès à des données sociales sensibles, renforçant le risque de fichage et de surveillance ciblée des allocataires du Revenu de solidarité active (RSA) et élargissant encore l’accès aux fichiers sociaux à de nombreuses institutions, sans garde-fous suffisants. Ce texte pousse encore plus loin une logique dangereuse : la pauvreté devient un motif de suspicion automatique. C’est un élargissement sans précédent du pouvoir de surveillance de l’État social, qui touche en premier lieu les allocataires du RSA. Pourtant, des données officielles indiquent que la fraude détectée au RSA représente moins de 0,3 % du budget total, selon la Caisse nationale des allocations familiales (CNAF) en 2021. De plus, parmi les « anomalies », plus de 90 % des indus sont des erreurs involontaires selon la CNAF. Les bénéficiaires du RSA ne sont pas des suspects de droit commun. Pourtant, le Gouvernement et plusieurs départements expérimentent déjà des technologies intrusives — scoring algorithmique, surveillance numérique, géolocalisation — qui n’existent même pas pour les fraudeurs fiscaux les plus fortunés. L’État social devient un État policier pour les pauvres. Or, l’utilisation d’outils de ciblage et d’intelligence artificielle (IA) déjà existants pose plusieurs problèmes éthiques et juridiques. Ainsi, certains dispositifs seraient discriminatoires et attentatoires aux droits fondamentaux des personnes percevant les minima sociaux. Par exemple, l’algorithme dit de « scoring social » utilisé par la CNAF vise à attribuer un « score de risques » à chacun des 32 millions de bénéficiaires (dont 13,5 millions d’enfants) de prestations sociales. Cela revient à évaluer, selon les chiffres de la CNAF en 2023, la moitié de la population française. Ce score, calculé mensuellement, définit la probabilité pour un allocataire d’être soumis à un contrôle : plus le score est élevé, plus le risque d’être contrôlé augmente. Parmi les facteurs augmentant ce score figurent notamment le fait d’avoir de faibles revenus, d’être au chômage, de percevoir le RSA ou l’Allocation aux adultes handicapés (AAH). Or, le volume de données traitées est colossal et concerne des informations très précises sur la vie des personnes. Cette pratique est en contradiction avec une obligation du Règlement général sur la protection des données (RGPD) qui exige de minimiser la quantité de données collectées et de ne recueillir que les données personnelles « adéquates, pertinentes et nécessaires » au regard des finalités du traitement. Enfin, l’ensemble de ces données subit un traitement automatisé, suite auquel l’algorithme de la CNAF prend des décisions. Cette opacité algorithmique peut, de plus, engendrer des discriminations directes (liées au paramétrage de l’outil) ou indirectes (résultant de ses effets). Cet algorithme est la traduction d’une politique d’acharnement contre les plus pauvres. Parce que vous êtes précaire, vous serez suspect aux yeux de l’algorithme, et donc contrôlé. C’est une double peine pour des populations déjà fragilisées. Le Gouvernement fabrique artificiellement un ennemi intérieur : le précaire, le pauvre, présenté comme un profiteur et un voleur. Ces outils numériques de surveillance massive sont opaques, empêchant tout contrôle indépendant, bien qu’ayant un impact direct sur la vie de millions de personnes. Depuis plusieurs années, il existe une logique de suspicion généralisée envers les allocataires du RSA. Pourtant, selon la Confédération française démocratique du travail (CFDT) — section CNAF — « les systèmes automatisés de détection des risques conduisent à des injustices massives et à des contrôles ciblés illégitimes ». Suspensions de versements, demandes de remboursements d’indus non motivés, privation totale de ressources… Les situations de détresse engendrées par ces contrôles sont nombreuses. Tout cela alimente le non-recours. Ce texte veut faire des allocataires du RSA un groupe surveillé davantage que les frau…
Dispositif de l'amendement
Compléter l’alinéa 2 par les quatre phrases suivantes : « L’utilisation de traitements automatisés de données, y compris les techniques d’intelligence artificielle ou les systèmes de notation de risques, par les organismes mentionnés au présent article, ne peut intervenir qu’aux fins de vérification d’informations déjà détenues par l’administration et ne peut en aucun cas se fonder exclusivement sur la situation sociale, le niveau de ressources ou le bénéfice de minima sociaux. Ces traitements font l’objet d’une publication annuelle comprenant la finalité, les catégories de données traitées, les critères retenus, l’existence éventuelle de biais discriminatoires constatés et les modalités de contrôle humain des décisions prises. Toute décision affectant les droits d’un allocataire ne peut être fondée exclusivement sur un traitement algorithmique et doit faire l’objet d’une motivation individuelle reposant sur des éléments matériellement vérifiés. Un décret en Conseil d’État, pris après avis de la Commission nationale de l’informatique et des libertés et du Défenseur des droits, fixe les modalités d’encadrement, d’audit et de transparence de ces outils. »