Pour la Cnil, les JO 2024 sont « un tournant » en matière de surveillance numérique

La Commission nationale de l’informatique et des libertés a rendu son avis sur le projet de loi sur les Jeux olympiques et paralympiques de Paris qui prévoit, notamment, le déploiement de drones équipés de caméras « intelligentes » couplées à des algorithmes.

La Commission nationale de l’informatique et des libertés (Cnil) pointe, dans un avis rendu mercredi 4 janvier, le « tournant » en matière de surveillance numérique que constitue le projet de loi sur les Jeux olympiques et paralympiques de 2024.

Ce texte prévoit, notamment, d’autoriser la collecte de l’ADN des sportifs dans le cadre de la lutte antidopage, d’installer des scanners corporels à l’entrée des enceintes sportives ou encore d’autoriser « à titre expérimental » l’usage de drones équipés de caméras « intelligentes ».

« Le déploiement, même expérimental, de ces dispositifs de caméras augmentées est un tournant qui va contribuer à définir le rôle qui sera confié dans notre société à ces technologies, et plus généralement à l’intelligence artificielle », alerte la Cnil.

Concrètement, ce dispositif consiste en des drones équipés de caméras jumelées à un algorithme capable « de détecter et de signaler en temps réel des évènements prédéterminés » et ainsi de repérer des mouvements de foule ou des bagarres aux abords des enceintes sportives.

« Si de tels objectifs sont légitimes », concède l’avis, « le recours à de telles technologies à des fins de prévention de terrorisme et d’atteinte à la sécurité des personnes est inédit en France ». En effet, « ces outils d’analyse automatisée des images peuvent en effet conduire à un traitement massif de données à caractère personnel », insiste la Cnil.

« Ils ne constituent pas une simple évolution technologique, poursuit l’avis, mais une modification de la nature des dispositifs vidéo, pouvant entraîner des risques importants pour les libertés individuelles et collectives et un risque de surveillance et d’analyse dans l’espace public. »

La Commission rappelle par ailleurs qu’elle avait rendu publique, au mois de juillet dernier, sa position sur la question des caméras « augmentées ». En effet, la Cnil estimait que ces technologies ne pouvaient être utilisées que sous certaines conditions.

Et, dans son avis sur le projet de loi, elle considère que ce dernier « prend en compte une large partie de ses recommandations » : un « encadrement » au « niveau législatif », des analyses automatisées limitées « à des hypothèses restreintes », à savoir des évènements présentant des risques particuliers, et enfin « un certain nombre de garanties à même de limiter les risques d’atteintes aux données à caractère personnel ».

Ni reconnaissance faciale ni interconnexion.

La Commission se satisfait notamment que le gouvernement ait limité cette expérimentation dans le temps et exclu le recours à la reconnaissance faciale, ainsi que la possibilité d’interconnexion avec d’autres fichiers qui permettraient par exemple d’identifier une personne pour lancer des poursuites contre elle.

L’avis souligne par ailleurs qu’il ne doit s’agir que d’une expérimentation qui devra faire l’objet d’une évaluation et qui « ne saurait en aucun cas préjuger d’une éventuelle pérennisation de ces systèmes ».

Le projet de loi autorise également le déploiement de scanners corporels à l’entrée des lieux qui accueilleront les compétitions. Sur ce point, la Cnil « rappelle que la mise en œuvre d’un scanner corporel constitue un traitement de données à caractère personnel » pouvant être particulièrement intrusif. Mais, pour limiter ces atteintes « à la vie privée et l’intimité des personnes », le gouvernement a apporté des « garanties », salue la Cnil.

Ainsi, le visage des personnes scannées sera brouillé sur l’écran et les images devront être immédiatement détruites. Il sera par ailleurs possible de refuser de passer par le scanner corporel. Dans ce cas, le contrôle sera fait par des « palpations manuelles, assurées par un agent du même sexe ».

Un autre article du projet de loi vise à mettre en conformité le Code de la sécurité intérieure (CSI) avec la loi du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés, le texte fondateur de la protection des données personnelles. Or, celui-ci a été fortement modifié en 2018 par la transposition en droit français du règlement européen sur la protection des données personnelles (RGPD), une vaste réforme ayant unifié les législations des États membres en la matière.

Une mise en conformité « a minima ».

Ces dernières années, « la Commission a rappelé à plusieurs reprises que plusieurs dispositions du CSI étaient obsolètes », souligne l’avis. « En effet, elles ne permettent plus aux responsables de traitement de connaître l’état réel de leurs obligations en la matière ni aux personnes concernées de savoir de quelle manière exercer leurs droits, alors même que ces dispositions constituent le cadre juridique général en la matière. »

Pour combler ce retard, le gouvernement propose une révision du CSI qui est loin de satisfaire la Cnil. « Si elle accueille ainsi favorablement la démarche de mise en conformité du ministère, assène l’avis, la Commission constate que celui-ci a fait le choix de modifier a minima les dispositions existantes et souligne le fait qu’une réforme plus globale des traitements des images dans les espaces ouverts au public sera nécessaire pour sécuriser les acteurs et encadrer les usages. »

Pour assurer la sécurité des lieux publics liés aux Jeux olympiques, dont les multiples « fan zones » qui seront installées un peu partout pour suivre les compétitions, le gouvernement souhaite rendre en outre obligatoires les enquêtes administratives sur toute personne y ayant accès sans être spectatrice. Seront notamment concernés, explique l’exposé des motifs du texte, « les membres des délégations qui résideront au village olympique et paralympique, les bénévoles ainsi que les prestataires techniques ».

Dans son avis, la Cnil pointe que cette réforme « conduira à élargir de manière très substantielle le périmètre des personnes concernées par ces dispositions. Cela pourrait en effet représenter environ 50 000 à 60 000 participants pour les seuls Jeux olympiques et paralympiques selon le ministère ».

Mediapart

** **

Le document de publicSenat

Intelligence artificielle pour sécuriser les JO de Paris : les sénateurs adoptent le texte en commission, malgré les inquiétudes

Les sénateurs ont adopté en commission le projet de loi sur les Jeux olympiques de Paris 2024, qui prévoit notamment d’expérimenter la vidéoprotection avec algorithmes pour repérer les mouvements de foules ou les comportements « anormaux ». Ils ont renforcé le contrôle de la Cnil, dès le développement du système. Les défenseurs des libertés publiques dénoncent une première.

« Plus vite, plus haut, plus fort ». La devise olympique va-t-elle s’appliquer en matière de sécurité pour l’organisation des Jeux olympiques et paralympiques de Paris 2024 ? Dans la perspective de l’événement, le gouvernement a présenté fin décembre un projet de loi pour préparer les JO. Examiné ce mercredi matin en commission des lois par les sénateurs, il a été adopté, après quelques modifications.

Un « tournant », juge la Cnil

Loin de simples dispositions techniques, le cœur du texte porte sur des mesures sécuritaires. L’exécutif entend autoriser pour la première fois en France la mise en place de caméras « augmentées », que ce soit pour la vidéosurveillance ou pour équiper des drones, et ce de manière expérimentale, jusqu’en 2025, soit après les JO. Concrètement, des algorithmes permettront de repérer les mouvements de foule ou des comportements jugés anormaux, pour les signaler automatiquement aux forces de l’ordre, qui pourront décider d’agir, s’ils le jugent nécessaire. Une nouveauté qui crée un précédent.

Pour la CNIL, (Commission nationale informatique et libertés), c’est un « tournant ». L’association La quadrature du net, farouchement opposée à la mesure, soutient pour sa part que « cette technologie transforme notre rapport à l’espace public et démultiplie les capacités de contrôle et de répression de la police », craignant, « à terme, l’identification par reconnaissance faciale en temps réel et la massification de la vidéoverbalisation ». Bref, le débat est sensible et loin d’être neutre.

« C’est un enjeu fort de sécurisation pour les Jeux olympiques » pour la rapporteure Agnès Canayer

Pour la majorité LR-Union centriste du Sénat, le texte va malgré tout dans le bon sens. « On a adopté l’article 7 sur la vidéo protection intelligente ou les caméras augmentées, considérant que c’est un enjeu fort de sécurisation pour les Jeux olympiques, au regard de l’ampleur et de l’exceptionnalité de la manifestation », avance la rapporteure Agnès Canayer, membre du groupe LR et proche d’Edouard Philippe. La majorité a tenu cependant à encadrer un peu plus le dispositif. « On a surtout adopté des amendements de précision qui renforcent les garanties, notamment à la fois sur la mise en place des traitements algorithmiques, et l’information du public sur le recours à ces traitements », explique la sénatrice de Seine-Maritime. « On a renforcé le contrôle de la Cnil, notamment le « bac à sable », c’est-à-dire le moment où on conçoit et développe les algorithmes, tout au long du processus », ce qui n’était pas prévu à ce point. Agnès Canayer insiste :

Les « événements prédéterminés » définis par décret, après l’examen au Parlement

Ces « événements prédéterminés » dont parle la rapporteure, ce sont les situations qui seront repérées automatiquement par le système. Mais ils ne sont pas définis directement dans le texte. Une fois la loi adoptée, le gouvernement prendra un « décret » qui fixera « les caractéristiques essentielles du traitement. Il indique notamment les événements prédéterminés que le traitement a pour objet de signaler », dit le texte du projet de loi.

N’y faut-il pas y voir un risque, en laissant l’exécutif déterminer après le débat parlementaire ces détails sensibles ? « Non, pour nous, c’est satisfaisant. Dans le texte, c’est encadré. Les événements prédéterminés sont ceux susceptibles de présenter ou relever des risques d’atteinte graves à la sécurité des personnes et d’actes terroristes. Par exemple, un mouvement de foule anormal, des personnes qui remontent à contresens, des objets qui traînent sur la voie publique, des personnes qui ont le visage caché ou porte un ustensile attentatoire », détaille Agnès Canayer, ou encore « des personnes qui court dans un sens qui n’est pas le bon, ou de manière anormale ».

Où fixer la limite ?

Le texte dit autre chose. « Lorsque le système d’intelligence artificielle employé repose sur un apprentissage, des garanties sont apportées afin que les données d’apprentissage, de validation et de test choisies soient pertinentes, adéquates et représentatives, leur traitement loyal, objectif et de nature à identifier et prévenir l’occurrence de biais et d’erreurs », peut-on lire à l’article 7. Mais comment déterminer ce qui sera « pertinent », « adéquat » et ce qu’est un « traitement loyal » ? Où fixer la limite ? N’y a-t-il pas un risque d’une appréciation à géométrie variable ? Là non plus, pas d’inquiétude selon la rapporteure : « Cette phase, c’est celle de la conception de l’algorithme. Il faut qu’il soit conçu dans le respect des objectifs. On a réintroduit une question de proportionnalité avec la finalité recherchée ».

Les sénateurs ont aussi supprimé la notion d’« intelligence artificielle » de la loi, « car celle-ci n’existe pas aujourd’hui dans le corpus juridique français et est en cours de définition au niveau européen » dit l’amendement, qui propose plutôt le terme de « traitements algorithmiques ». A noter que l’expérimentation concerne aussi d’autres événements sportifs, récréatifs ou culturels. Comme des grands festivals comme les Vieilles Charrue ou les Eurockéennes ? « Oui, ça peut être pour ce type de festival, dès lors qu’il y a un rassemblement de personnes », selon Agnès Canayer.

« Il y a des garanties fortes »

Globalement, pour Agnès Canayer, « il y a des garanties fortes. On ne peut pas recourir à la reconnaissance biométrique, il n’y a pas de croisement avec d’autres fichiers et pas de reconnaissance faciale ». La rapporteure ajoute : « Avec la manière dont le texte est écrit, l’ensemble des garanties ajoutées, renforcées par le Sénat, on a trouvé le bon équilibre entre l’enjeu de sécurité et la garantie des libertés individuelles ».

Un équilibre qui fait débat au sein même de la droite. Plusieurs amendements LR, dont certains signés par de nombreux sénateurs, ont tenté de pousser plus loin la vidéosurveillance augmentée (captation également du son par les caméras, surveillance biométrique, utilisation pour lutter contre la prise en charge illégale de clients par les VTC et les taxis clandestins ». Ils ont tous été jugés irrecevables.

« Ça ne doit pas être généralisé sur tout le territoire, dans toutes les circonstances » pour le socialiste Jérôme Durain

A gauche, le groupe PS s’est pour le moment abstenu en commission, tout en soutenant l’esprit général du texte. « On estime que tous ces sujets-là doivent être mis en œuvre à titre dérogatoire. Cela ne peut pas devenir un standard de sécurité à tous les étages. Ça ne doit pas être généralisé sur tout le territoire, dans toutes les circonstances », affirme Jérôme Durain, sénateur PS de la Saône-et-Loire. « Ces technologies viennent de partout, à bas bruit, par les territoires », note le socialiste. Des collectivités commencent en effet à vouloir expérimenter ce type de vidéosurveillance. « Mais pour les Jeux olympiques, je comprends que ce soit nécessaire », admet Jérôme Durain, qui ajoute : « C’est un texte que nous soutenons, car on veut que les JO se passent bien. Notre position est d’obtenir un maximum de garanties pour que le déploiement de ces technologies se fasse dans le respect des libertés publiques ». Les socialistes pourraient voter pour en séance, « mais ce vote sera subordonné à ce que le texte ne soit pas l’occasion de dérives en matière de sécurité ».

Il s’agit notamment « de vérifier ce que le gouvernement a dans les cartons dans ces événements prédéterminés », explique Jérôme Durain, qui reconnaît que l’usage du « décret, c’est la porte ouverte à des élans du moment ». Mais il juge que « la rapporteure a plutôt apporté des garanties ».

Création de nouveaux délits contre la fraude aux faux billets et les interventions de militants sur le terrain

Le texte prévoit aussi « la création de nouveaux délits, notamment concernant l’introduction dans les enceintes sportives de manière illégale, c’est-à-dire sans billet. De nouvelles infractions spécifiques sont créées », explique Agnès Canayer, « c’est la suite des événements du Stade de France. Et on renforce les peines en cas de récidives ».

Les personnes qui entrent sur le terrain sportif « pour faire part de leurs convictions politiques » seront aussi sanctionnées. De quoi viser les militants, écologistes notamment, qui affichent un message devant les caméras de télévision, comme on l’a vu à « Roland Garros » cette année, souligne la rapporteure. Même chose pour ceux qui « défilent avec une banderole ou nus ». Les streakers peuvent aller se rhabiller. Un amendement du sénateur centriste Claude Kern porte de 1.500 à 3750 euros l’amende.

Ce texte fourre-tout prévoit également des mesures pour renforcer la lutte contre le dopage, avec l’examen de caractéristiques génétiques ou la comparaison d’empreintes génétiques de sportifs, un élargissement de l’ouverture des magasins le dimanche, ou encore l’autorisation de la publicité à proximité de monuments historiques, notamment sur le parcours de la flamme olympique. Mais l’inventivité parlementaire a ses limites. Des amendements LR, « travaillés en concertation avec le Conseil régional d’Ile-de-France » – soit « demandés par Valérie Pécresse », précise le socialiste Jérôme Durain – afin de durcir les conditions d’accès au droit de grève pendant la période des JO, ont été jugés irrecevables.