Signez l’appel
https://changerdecap.net/petition-caf/
L’intelligence artificielle est toujours présentée sous le jour le plus avantageux. Mais les fameux algorithmes « intelligents » montés en épingle dans les médias, capables de reconnaître un cancer mieux qu’un médecin, ou capables d’identifier le terroriste trop nerveux parmi les passagers anonymes d’un tramway niçois, sont des mythologies modernes. La réalité des algorithmes d’aide à la décision est dans l’immense majorité des cas banale, gestionnaire et policière, tout comme l’imaginaire de nos gouvernants. Cette médiocrité automatisée, appliquée à des vies humaines, industrialise l’arbitraire.
Par ailleurs, les services sociaux, menacés dans leur légitimité et même dans leur existence par les politiques imprimées à l’État (« un pognon de dingue », selon la personne chargée d’incarner l’harmonie nationale), sont sommés de réduire leurs dépenses. On réduit donc le personnel, et on instaure des contrôles sévères pour punir les présumés fraudeurs. Rigueur, économies, sous-effectif et surveillance, tout est en place pour que l’automatisation impose ses algorithmes. Sans grande surprise, leur application punit fréquemment les allocataires les plus fragiles.
Prenons l’exemple des caisses d’allocations familiales (CAF). À chaque allocataire est attribué un score en fonction de plusieurs critères. Plus le score est élevé, plus l’allocataire est jugé·e susceptible de frauder, et sera contrôlé·e. Détail monumental : quand le score déclenche un contrôle, les allocations sont suspendues. Les allocataires les plus précaires, qui perdent et retrouvent des emplois à temps partiel, déménagent souvent, ont des situations familiales ou conjugales compliquées, sont d’origine étrangère, ont des difficultés avec les démarches en ligne, sont algorithmiquement les personnes les plus pénalisées.
Le collectif Changer de cap a collecté les témoignages de personnes maltraitées par l’algorithme de contrôle de la CAF :
https://changerdecap.net/petition-caf/.
La Quadrature travaille aussi sur ce sujet, pour obtenir la transparence sur cet algorithme arbitraire. C’est pourquoi nous signons et publions cette semaine la tribune rédigée par Changer de cap : « Nous demandons le démantèlement des pratiques illégales des CAF ».
Lire la tribune
https://www.laquadrature.net/2022/04/06/controles-discriminatoires-nous-demando
** **
La vidéosurveillance est politiquement détestable et juridiquement illégale
Dans le cadre de notre grande enquête Technopolice, nous avons publié ces dernières semaines trois articles sur la vidéosurveillance algorithmique (VSA). Le premier article, dont nous vous avons déjà parlé ici fin mars, commençait par le commencement et posait quelques définitions : Qu’est-ce que la vidéosurveillance algorithmique ?
https://www.laquadrature.net/2022/03/23/quest-ce-que-la-videosurveillance-algorithmique/
Le deuxième article, paru le vendredi 1er avril, n’est pas très drôle : en partant de la traditionnelle opposition entre la liberté et la sécurité, il constate que la vidéosurveillance automatisée limite les libertés de tout le monde sans augmenter la sécurité de personne. Déshumanisation de la population et de la police, dilatation totalitaire de la surveillance, inefficacité, répression des populations fragiles, rien ne va.
Mais le troisième article donne de l’espoir : il existe des moyens juridiques de bloquer le déploiement de ces techniques de surveillance totalitaires. Noter expérience des textes de loi qui encadrent l’utilisation des données numériques nous donne des moyens d’agir. On compte bien les utiliser !
Analyse politique
https://www.laquadrature.net/2022/04/01/pourquoi-sopposer-a-la-videosurveillance-algorithmique/
Analyse juridique
** **
Soutenez La Quadrature du Net
Comme vous le savez, l’association vit grâce à vos dons : https://www.laquadrature.net/2022/01/14/ni-subventions-ni-deductibilite-fiscale-la-quadrature-ne-tient-presque-que-par-vos-dons/. Si vous pouvez nous aider avec un don, c’est ici : https://www.laquadrature.net/donner/. Et si vous n’êtes pas riche, n’hésitez pas à faire un petit don mensuel, ce sont nos préférés, ils nous permettent d’envisager notre action dans la durée. On compte sur vous pour pouvoir continuer le combat une année de plus ! Merci beaucoup !
Pour soutenir La Quadrature
https://www.laquadrature.net/donner/
** **
Lire aussi
https://blogs.mediapart.fr/la-quadrature-du-net/blog/230322/quest-ce-que-la-videosurvei