Une nouvelle importante avant de lire l’article !
Vidéosurveillance algorithmique : le préfet de police de Paris veut maintenir ces caméras testées pendant les JO
Quelle surprise ! On n’y avait pas pensé !
** **
Une histoire d’infiltration dans une entreprise de vidéosurveillance
Greta Kaczynski n’aime pas les caméras. Depuis sa tendre enfance, elle a toujours le sourcil tendu pour repérer une à une ces boules de cristal qui jalonnent l’espace public, et ne manque jamais de grimacer ou de lever le majeur à l’attention des petits voyeurs, en chair ou en algorithmes, qui la scrutent depuis leur chambre obscure. Toute haine saine devant être théorisée, elle s’est adjointe les services d’un confrère journaliste, spécialiste de sécurité informatique et auteur d’un intéressant petit livre, Circulez ! – La ville sous surveillance, le dénommé Thomas Jusquiame. Celui-ci a poussé le vice jusqu’à se faire recruter dans une société de vidéosurveillance afin d’en mieux décortiquer le fonctionnement. Découvrez ci-dessous cette étrange aventure et les quelques leçons à en tirer !
Greta Kaczynski : Pour votre enquête, vous avez travaillé plusieurs mois dans une entreprise qui vend un logiciel de vidéosurveillance algorithmique. Pourquoi avoir fait ce choix ? Comment avez-vous réussi à vous « infiltrer » ?
Thomas Jusquiame : J’ai l’impression que ce choix s’est fait naturellement au fil de l’enquête. Quand on s’intéresse à l’urbanisme et l’architecture dits sécuritaires, on tombe inévitablement sur la caméra de vidéosurveillance, capteur central dans les dispositifs technologiques de sécurité urbaine.
En focalisant mes recherches sur cet équipement, j’ai rapidement découvert que des sociétés déployaient depuis quelques années des logiciels de vidéosurveillance algorithmique (VSA). Ces logiciels qui, grâce à la technique de vision par ordinateur (une des branches de l’IA qui permet d’analyser les pixels d’une image pour détecter des objets ou déterminer des situations), analysent nos mouvements dans la rue ou dans les grandes infrastructures (stades, gares, aéroports, etc.). L’opacité avec laquelle agissent ces entreprises – on ne trouve quasiment aucune information sur les villes équipées, le fonctionnement précis des logiciels ou leur usage concret et quotidien – ainsi que la perspective de voir ces dispositifs d’analyse comportementale se multiplier dans nos villes, ont été des éléments moteurs dans ma décision d’intégrer cette société de VSA. Mon passé dans l’informatique m’a permis de postuler aux offres d’emploi proposées par ces entreprises en recherche active de candidats et d’obtenir le poste de responsable commercial – moyennant une préparation aux entretiens qui consistait à étudier l’activité des acteurs de la VSA et l’usage de la vision par ordinateur sur le marché de la sécurité urbaine.
Le processus de recrutement s’est déroulé (classiquement) en trois étapes. La première consiste en un entretien téléphonique dans lequel l’employeur me questionne sur mes précédentes expériences professionnelles présentées dans mon CV. Mon interlocuteur me présente ensuite la société puis les tâches et fonctions attendues sur le poste, qui se résument globalement à prospecter de nouveaux clients principalement en France mais aussi en Europe et en Afrique du Nord.
Pour préparer le second entretien, je reçois quelques jours plus tard un exercice à réaliser qui consiste à sélectionner une liste de clients potentiels, à présenter une stratégie commerciale pour les aborder (salon commerciaux, campagne d’emailing et d’appels, etc.) puis terminer sur une présentation du logiciel sous forme de Powerpoint pour démontrer ma capacité à synthétiser les avantages du logiciel et tester mes qualités oratoires. Cette seconde étape est déterminante. Elle se joue dans les locaux de l’entreprise en présence de deux dirigeants qui détermineront à la fin de l’entretien s’ils me donnent le poste ou non.
La troisième et dernière étape est une formalité sans réel enjeu (appliquée par la plupart des entreprises) et qui consiste en un entretien avec d’autres cadres de l’entreprise. Je me vois poser des questions plus personnelles (« quelles sont tes passions ? », « que fais-tu en dehors des heures de travail ? », etc.) afin de créer un climat agréable pour me donner envie de rejoindre l’entreprise.
Était-il possible de discuter politique avec vos collègues ?
Les discussions politiques n’étaient quasiment jamais abordées, notamment avec les cadres de l’entreprise. Il n’y avait que les stagiaires (que je côtoyais quotidiennement) qui pouvaient parfois être un peu critiques – d’autant que les tâches qui leur étaient imposées étaient franchement ingrates et inintéressantes, ce qui les rendait plus enclins à critiquer entre eux le fonctionnement de l’entreprise –, mais la discussion restait généralement en surface. La détection de situations dites de maraudage — c’est-à-dire une personne qui stagne de façon prolongée dans la zone vidéosurveillée, ce qui peut notamment s’appliquer aux sans-abris — et l’idée d’être constamment surveillé dans l’espace public faisaient dire à certains que c’était « un peu abusé ». Mais la nécessité de valider leur stage de quelques mois pour poursuivre leurs études semblait être la raison principale qui motivait leur présence dans les bureaux.
Quel est l’état d’esprit des collègues que vous avez côtoyés dans l’entreprise ? Scrupules, conviction de faire le bien, indifférence, cynisme ? Ces sentiments oscillent-ils selon la hiérarchie ?
C’était une entreprise jeune, essentiellement composée d’ingénieurs et de techniciens et à 90 % d’hommes, avec une organisation structurée autour du développement d’un logiciel comme le serait une banale entreprise d’informatique. Les techniciens et ingénieurs se trouvaient à un autre étage que le mien. Les seuls moments d’interaction avec eux étaient parfois le midi, et beaucoup plus rarement autour d’un verre en fin de journée.
Pendant ces courtes pauses (ou un des dirigeants était systématiquement présent), on parlait cinéma, jeux vidéo, musique, plus rarement d’actualité ou de sujets techniques. La question des libertés a été abordée sur la messagerie interne – au moment où la CNIL a émis sa position sur l’usage de la VSA – et personne n’a osé ou jugé utile de rebondir, à l’exception d’un commercial qui s’inquiétait pour ses ventes en cours. La plupart des jeunes techniciens semblaient plus s’intéresser au « challenge » technique que représentait la création du logiciel et on pouvait parfois observer une sorte de fierté à travailler dans le domaine de l’IA.
Une stagiaire commerciale (dont l’une des missions consistait à créer un fichier de prospection pour les centres de supervision urbains, lieux qui centralisent l’ensemble des flux de vidéosurveillance d’une ville et dans lesquels les opérateurs de vidéoprotection scrutent les écrans) m’a néanmoins fait part de ses inquiétudes – que j’ai notées mot pour mot – et qui donnent une petite idée de la difficulté qui régnait en interne pour évoquer ces sujets : « C’est de la surveillance généralisée, on se demande ce que ça va donner dans 10, 20, 30 ans. Quand j’en parle à des amis, les gens ne comprennent pas toujours. T’es le premier à qui j’en parle en interne. » Cette employée n’a pas renouvelé sa période de stage et est partie faire les vendanges d’été pour gagner un peu d’argent.
Notons également que seuls quelques employés sont capables d’aller installer le logiciel chez les clients. Les liens entre les équipes qui conçoivent le logiciel et les utilisateurs finaux qui acquièrent le produit sont réduits au strict minimum — c’est-à-dire des prestations d’installation, de maintenance et d’évolution du logiciel, qui est lui-même souvent installé sur des serveurs en local chez le client, et sur lesquels l’entreprise n’a pas directement la main. En interne, la question des finalités sécuritaires était savamment évitée par les managers qui insistaient bien plus sur les fonctionnalités de type « smart city » qui visent à analyser les types de mobilités en ville ou la densité de trafic dans les transports que celles ayant une visée répressive.
On dit souvent que le déploiement de la vidéosurveillance est en partie le fruit du marketing agressif des entreprises du secteur. Sur la base de votre expérience, diriez-vous que le « besoin » qu’ont les élus de tels logiciels est créé de toutes pièces par les marketeux, ou bien s’agit-il d’une réelle demande de leur part ?
Les raisons pour qu’un.e élu.e décide de vidéosurveiller l’espace public sont nombreuses : pression de sa police municipale, de certains de ses administrés (commerçants, riverains), mais aussi des communes avoisinantes qui invitent les autres à s’équiper pour mieux quadriller le territoire de l’agglomération. Il y a aussi « l’effet ruban » qui consiste à inaugurer des caméras en ville pour attirer les voix des personnes les plus craintives ou « prosécurité », sans oublier les financements de l’État au travers du fonds interministériel de prévention et de lutte contre la délinquance et la radicalisation (148 millions d’euros d’argent public pour équiper 26 614 caméras réparties sur 2 820 communes depuis 2007) qui peuvent influencer la décision d’installer de coûteuses caméras – dont le chercheur Tanguy Le Goff estime le coût à 20 000 euros en moyenne.
À toutes ces raisons vient s’ajouter, selon moi, le mythe de l’efficacité des dispositifs de vidéosurveillance pour lutter contre le crime. Les études de terrain tant françaises qu’internationales convergent pourtant toutes vers le même résultat : les caméras ne permettent pas de lutter efficacement contre les crimes violents ou les troubles à l’ordre public. Une étude récente réalisée dans la région de Grenoble a démontré que sur 1 939 cas étudiés, seulement 22 enquêtes élucidées avaient bénéficié d’un indice ou d’une preuve issus de la vidéo, soit 1,1 % du panel…
Quant à l’influence du secteur privé sur le « besoin » sécuritaire des élus, même si cela reste difficile à quantifier avec précision, on peut évoquer l’intense travail de lobbying de l’association nationale de la vidéoprotection (AN2V) qui met en lien les industriels, forces de sécurité et élus au travers d’événements et de nombreuses formations. L’industrie des systèmes de sécurité est composée en France de 2 500 entreprises pour environ 16 700 employés. Ce qui donne une petite idée des forces mises en œuvre par le secteur pour adapter et vendre leurs produits de sécurité aux services généraux des mairies, cibles privilégiées des commerciaux.
Quant aux éditeurs de logiciels de VSA, certains appliquent des techniques de vente qui consistent à mettre en avant des fonctionnalités de type « gestion urbaine » : détection de dépôts sauvages, d’une présence humaine pour activer l’éclairage la nuit, gestion des feux tricolores pour réguler le trafic. Il y a également les possibilités de détection automatique d’infractions au Code de la route (stationnement gênant, feu rouge grillé, utilisation de voies interdites, etc.) qui attisent la curiosité des collectivités, séduites par un potentiel retour sur investissement.
Aujourd’hui, les pouvoirs publics se mettent à vidéosurveiller au nom de l’écologie : pour faire respecter les zones à faible émission (ZFE) et les voies réservées au covoiturage, détecter les dépôts sauvages d’ordures ou bien éviter les embouteillages. Identifiez-vous des liens entre le développement tous azimuts des moyens de surveillance que vous documentez dans votre livre et le ravage écologique ?
Les promesses écologiques faites par certains dispositifs de VSA et la pollution produite par l’infrastructure qui sous-tend ces logiciels pourraient faire sourire s’il ne s’agissait pas d’un sujet si sérieux. Certains éditeurs de logiciels vont mettre en avant l’aspect « écologique » de leur produit (éviter que les voitures stagnent au feu rouge, favoriser les mobilités douces, optimiser les flux de transports publics). Certaines entreprises, en collaboration avec les pompiers, tentent même de vidéosurveiller des zones forestières pour détecter des départs de feu…
Mais les fonctionnalités des logiciels sont principalement répressives (vidéoverbalisation, détection d’attroupements, de maraudages, reconnaissance faciale, recherche d’indices a posteriori, etc.).
Quant à la question de la pollution générée par l’apprentissage des réseaux de neurones artificiels (utilisés par la recherche), le professeur des universités (Grenoble-Alpes) Romain Couillet a démontré que cela générait une consommation dépassant le million de kilowatts par heure sur une période d’un mois. Ces calculs sur serveurs qui réunissent environ 10 000 processeurs sont équivalents à 500 tonnes d’émission de CO2, soit une empreinte carbone de 500 allers-retours Paris-New-York ….
La vidéosurveillance se développe également de plus en plus chez les particuliers, notamment avec les caméras interphones. Qu’en pensez-vous ? Quels usages en font ou risquent d’en faire les autorités ?
Dans mon enquête, je me suis focalisé sur l’espace public et les interphones rentrent dans le domaine privé ou semi-privé. On remarque néanmoins que le modèle des gated communities (résidences fermées) s’est peu à peu standardisé depuis une quinzaine d’années dans les projets de constructions résidentielles. Je ne sais pas s’il s’agit d’un simple « gadget » sécuritaire imposé par les promoteurs pour « valoriser » les biens immobiliers, ou si cela vient d’une demande des résidents eux-mêmes.
Dans tous les cas, accéder aux images d’une résidence (ou d’un commerce) privée nécessite des autorisations octroyées dans le cadre d’une enquête et elles ne peuvent (en théorie) être exploitées directement par la police sans une autorisation préalable.
Personnellement, lorsque je parle de vidéosurveillance autour de moi, plus que de l’indifférence, j’observe une résignation pour le moins déconcertante : notre société irait irrémédiablement « vers ça » (entendre, le modèle chinois), et il serait impossible d’enrayer ce mouvement. Comment expliquez-vous ce désintérêt, voire cette résignation sur cette question ?
Je partage malheureusement votre expérience et j’ajouterai que j’entends régulièrement au sujet de la vidéosurveillance algorithmique que « ça fait peur ». Ce fatalisme mâtiné d’indifférence s’explique selon moi de plusieurs manières. Il y a une opacité savamment entretenue par le ministère de l’Intérieur et la plupart des villes sur l’usage concret de la vidéosurveillance. Les boîtes noires que représente le millier de centres de supervision urbains (lieux qui centralisent les flux caméras que manipulent des opérateurs) contribuent à cette culture du secret qui entoure l’usage de la caméra. L’objet a ensuite été progressivement banalisé dans notre quotidien, ce qui contribue à oublier sa présence. Mais cette résignation que vous pointez peut également s’expliquer par un manque cruel d’informations sur cet équipement. Quand j’explique autour de moi ou lors de rencontres que la VSA s’attaque à nos droits (liberté de manifester, d’aller et venir, d’anonymat, etc.), qu’elle utilise nos données comportementales – empêchant l’application de notre droit d’opposition – pour venir engraisser des entreprises privées dont on sait très peu de choses, que ces dispositifs financés par l’argent du contribuable coûtent extrêmement cher à installer et à maintenir, le tout pour des résultats absolument dérisoires concernant la sécurisation de l’espace public, les réactions sont généralement assez vives.
Combien ça coûte ? Qui paye ? Pour quel résultat ? Posé en ces termes, le sujet fait réagir.
Des institutions telles que la CNIL ou le RGPD sont-elles des remparts efficaces au déploiement de la vidéosurveillance ?
Le nombre de caméras déployées dans l’espace public est en constante augmentation depuis trente ans, le secteur industriel (nombre d’acteurs, chiffre d’affaires global) croît lui aussi chaque année, et on connecte aujourd’hui des algorithmes pour analyser massivement le comportement humain dans nos rues. En partant de ce constat, difficile alors de voir dans le RGPD ou les actions de la CNIL des contre-pouvoirs efficaces pour protéger nos droits. Le RGPD et la CNIL peuvent néanmoins servir d’outils juridiques pour lutter localement contre un projet de VSA, dans la mesure où ils imposent un certain nombre de prérequis légaux nécessaires à leur installation et qui ne sont pas toujours respectés.
Pouvez-vous nous expliquer ce qu’est le « sentiment d’insécurité », et en quoi il est un moteur de l’essor de la vidéosurveillance ? Que répondre à celles et ceux qui éprouvent un tel sentiment ?
Pour essayer de saisir ce sentiment d’insécurité, je me suis notamment appuyé sur les travaux de Renée Zauberman. Dans l’ouvrage Du sentiment d’insécurité à l’État sécuritaire qu’elle a corédigé avec Philippe Robert, elle explique que la précarisation des individus provoque une frustration et « une peur de l’autre qui trouve dans la peur du crime un abcès de fixation ». Pour elle, les crimes spectaculaires servent de carburant aux médias pour leur audience, aux élus pour détourner l’attention des sujets importants (l’évasion fiscale, au hasard) et aux policiers « pour faire valoir l’importance de leur rôle ». Mais elle insiste sur le fait que cette machine médiatique ne fait qu’amplifier et solidifier (et « non créer de toutes pièces ») ce sentiment.
Ses travaux montrent que la notion de risque n’est pas la même pour tout le monde (différence de vulnérabilité entre une jeune adulte et une personne âgée) et que son degré varie en fonction du type de peur sur lequel on interroge les sondé.es (parle-t-on d’une peur le soir dans la rue, chez soi, dans les transports, pour ses enfants ?)
Dans les enquêtes nationales, pour les sondé.es à qui l’on demande de choisir dans une liste « le problème le plus préoccupant dans la société française », c’est le chômage qui se hisse d’emblée sur la plus haute marche du podium (surtout en Île-de-France), suivi de la pauvreté, quand la délinquance est en troisième position. Si la préoccupation pour la délinquance est en baisse depuis 2001, les chercheurs notent une émergence spectaculaire de la peur du terrorisme. Mais cette dernière reste à nuancer, car elle se compose de toute une gamme d’autres relations émotionnelles comme (par ordre d’importance chez les sondé.es) la colère, l’inquiétude, l’effroi, l’amertume, le ressentiment et la haine.
Leurs travaux mettent également en lumière que la peur est intimement liée à l’expérience d’une victimisation. La probabilité d’éprouver la peur d’une agression sexuelle double quand on en a déjà été victime. Les préoccupations sécuritaires diffèrent selon les choix idéologiques des individus – voter à l’extrême droite « quadruple les probabilités de se trouver insécure », et triple quand on vote à droite.
Renée Zauberman essaye de démontrer que le genre, l’expérience de victimisation, l’idéologie, et la zone géographique sont les principales variables d’ajustement du sentiment d’insécurité personnel. Elle constate que le capital scolaire et le niveau de revenus sont les deux éléments qui prémunissent le mieux contre le sentiment d’insécurité.
Vous n’abordez pas du tout la question de la surveillance dans les campagnes ou les petites villes. Pourtant, elles ne sont pas en reste : caméras le long des grands axes routiers, aux péages, sur les places des bourgs, aux distributeurs de pizzas, etc. Voyez-vous des différences dans la manière dont se déploie la surveillance dans ces espaces ?
La suite :