Comment la CAF utilise un algorithme pour mieux contrôler ses usagers

Après plus d’un an de mobilisation contre les pratiques de notation des allocataires de la CAF, le collectif La Quadrature du Net dévoile aujourd’hui le code source de l’algorithme de notation utilisé par l’administration. L’objectif est de mettre en lumière la mission de surveillance et de contrôle que la CAF exerce envers les populations les plus fragiles.

La CAF utilise un algorithme qui attribue un “score de suspicion” à chaque allocataire, basé sur des centaines de données détenues par la CAF. Mis à jour chaque mois, ce score déclenche un contrôle lorsqu’il se rapproche de son seuil maximum. Avec ce système de surveillance prédictive, on nage en pleine dystopie : pire, le système cible délibérément les personnes les plus précaires.

Le collectif La Quadrature du Net a bataillé pour obtenir le code source de cet algorithme, et mettre fin à l’opacité de ces pratiques. La lecture du code révèle une surveillance de masse qui prend en compte une quarantaine de paramètres, dont des éléments liés à la situation financière, professionnelle, et personnelle des allocataires.

Les simulations effectuées montrent clairement la discrimination inhérente à l’algorithme, ciblant les revenus faibles, le chômage, les bénéficiaires du RSA, les habitants de quartiers “défavorisés”, ceux et celles qui allouent une part importante de leurs revenus au loyer, ainsi que les personnes en situation de handicap.

Les effets de seuil et les discriminations accentuent la stigmatisation des plus précaires, et l’agorithme agit ainsi comme une “double peine”. Les variables socio-économiques ont un poids prépondérant, qui désavantagent les populations déjà fragiles. Le collectif souligne aussi que tout modèle visant à détecter les trop-perçus ciblera nécessairement les plus défavorisé.es.

Ces pratiques de contrôle algorithmique reflètent ainsi “la diffusion de logiques gestionnaires et policières” dans les administrations sociales, sous couvert de la “lutte contre la fraude”.

En conclusion, le collectif appelle à une lutte à grande échelle contre ces pratiques de contrôle algorithmique, d’autant plus qu’il est loin d’être le seul à l’utiliser…

Espérons que ce travail remarquable permettra de mettre fin à ces pratiques et d’ouvrir un débat sur les dérives politiques qui les sous-tendent.