Censure et surveillance sur Internet : « Il faut réinvestir la critique de la technologie » 

Entre les tentatives de contrôles par l’État et la mainmise d’une poignée de multinationales, l’avenir du numérique semble de plus en plus sombre. Entretien avec Félix Tréguer, activiste à la Quadrature du net et chercheur.

Basta ! : Le livre s’appelle L’utopie déchue, n’est-ce pas pessimiste comme titre ? Est-ce votre vision de l’Internet aujourd’hui ?

Félix Tréguer [1] : Le mouvement hacker et plus généralement les mouvements de défense des droits numériques se sont nourris d’utopies fondatrices dans les années 1990. Celles-ci portaient le projet d’un Internet capable de reconfigurer les rapports de pouvoir. Cette utopie d’Internet comme espace de collaboration, d’une sphère non-marchande de ressources partagées sur le régime des biens communs, était un horizon extrêmement fort, y compris pour un collectif comme La Quadrature du net. Mais après dix ans de combat, nous en sommes arrivés aujourd’hui à des luttes malheureusement très défensives.

C’est aussi pour cette raison que vous replacez Internet dans l’histoire longue des moyens de communication et de leur répression constante par les États ?

Le même motif revient au fil de l’Histoire : l’émergence de technologies d’abord appropriées par des groupes contestataires, puis reprises en main par le marché. On l’a vu pour l’imprimerie, pour la presse populaire au 19ème siècle, pour la radio. Le marché lui-même facilite ensuite la réactivation des moyens de contrôle par l’État. La même chose est arrivée pour Internet, avec une alliance toujours plus poussée des oligopoles numérique avec les États.

Vous dites que l’activisme numérique a parfois pêché par naïveté ?

Pour ne donner qu’un exemple dans la manière dont cela a pu se décliner, prenons les débats autour du filtrage et du blocage de sites, apparus en France via la loi Loppsi en 2011. Dans les arguments que nous brandissions à l’époque à la Quadrature du net, nous évoquions le fait que, techniquement, il est impossible de bloquer des sites, qu’il sera de toutes manières toujours possible de contourner la censure par divers moyens. Ce côté frondeur fait partie de la culture hacker. Mais cela conduit un peu à se voiler la face quant à la capacité de nos mouvements à résister aux effets proprement politiques qu’implique une mesure comme le filtrage de sites internet. Car le blocage n’a pas besoin d’être efficace à 100 % pour produire les effets politiques voulus pas le pouvoir.

La mesure concernait à l’époque seulement la pédopornographie, puis elle fut étendue au terrorisme en 2014. Elle préparait en réalité un régime de censure extrajudiciaire appelé à s’appliquer à tout. Aujourd’hui, l’État demande à des acteurs privés de conduire ces missions de censure en lien avec le ministère de l’Intérieur. C’est en cours avec la proposition de loi de Lætitia Avia (députée LREM) sur la censure des discours de haine sur Internet. Cette proposition veut imposer aux plateformes privées de mettre en place des mécanismes pour censurer très rapidement tous les contenus haineux [2].

Quelles sont les effets de ces politiques ?

Elles poussent à l’automatisation, au contournement de la justice, et à la privatisation des mesures de censure, mais aussi au recours toujours plus poussé à des algorithmes basés sur l’intelligence artificielle ou à des modérateurs employés par des prestataires dans des pays à bas coût. L’État externalise les missions de censure et compte sur les progrès en matière d’intelligence artificielle pour la pratiquer toujours plus vite, toujours plus massivement.

Quels en sont les effets politiques ? D’abord, ces dispositifs instaurent des formes de censure invisibles. Quand un procès a lieu au tribunal, il y a possibilité d’avoir un débat, de contester les interprétations juridiques. Ce n’est plus possible lorsque la censure est appliquée par des algorithmes programmés dans le cadre d’une alliance publique-privée. On ne sait pas très bien comment marchent ces algorithmes, on ne sait pas comment ils sont paramétrés, nous n’avons pas de visibilité sur les décisions qu’ils prennent, et il devient donc très difficile de contester leurs décisions.

Votre livre retrace aussi une histoire de l’activisme politique des informaticiens, très riche en France dans les années 1980 et 1990…

J’ai moi-même été surpris en faisant ces recherches de voir comment des figures importantes des milieux du numérique, comme Stéphane Bortzmeyer et Laurent Chemla, sont impliquées en 1995 au moment des grèves contre le projet de réforme des retraites. Ils sont aux côtés des syndicalistes de Sud à équiper un vieux PC pour monter les premières mailing lists qui vont aider le mouvement social à s’organiser, à utiliser ces nouvelles technologies pour se coordonner, à faire circuler l’information. Il y a eu une fertilisation croisée. Des jeunes hackers y ont trouvé un apprentissage politique.

Les mouvements sociaux, qui ne connaissaient pas grand chose à ces nouveaux réseaux informatiques connectés et qui étaient plutôt méfiants au départ, ont compris grâce à eux que ces outils pouvaient leur permettre des formes d’organisation beaucoup plus réticulaires et très intéressantes d’un point de vue stratégique. C’est comme ça qu’on voit dans plein de pays d’Europe, en Amérique et au-delà, naître des « hacklabs » installés dans des squats, où des informaticiens bénévoles politisés se dévouent corps et âmes pour équiper les mouvements sociaux.

Quand ce lien s’est-il défait entre mouvements sociaux et hackers ?

Les relations étaient compliquées entre les informaticiens et les militants traditionnels. Ce qui ressort des entretiens, c’est le côté corvéable des bénévoles. On attendait beaucoup de ces informaticiens. Ils étaient très peu à faire un travail colossal, et ce n’était pas toujours très gratifiant. À côté, un secteur commercial d’Internet et de l’hébergement se structure au début des années 2000, puis le « web 2.0 » arrive. Des services se lancent en mettant en avant un côté « participatif » – même si le web a toujours été participatif – proposé comme une issue à l’éclatement de la bulle internet qui avait refroidi les investisseurs.

C’est MySpace, puis Facebook, et tout ce qui est réseaux sociaux. Ces outils, et les fournisseurs d’accès à Internet qui proposent des boîtes mails gratuites, font que rapidement, les militants pensent qu’il existe des services gratuits mieux conçus et qui répondent à leurs besoins. Et le divorce s’opère. Mais peut-être qu’on est en train de revenir un peu à ce type d’alliances, quand on voit des luttes comme l’opposition au QG de Google à Berlin, où des gens qui viennent du champs numérique se sont alliés avec des militants anti-gentrification, à l’échelle d’un quartier. Des alliances similaires se nouent à Toronto contre un projet de Google de smart city sur un quartier entier.

L’enjeu actuel n’est-il pas aussi que les informaticiens et les ingénieurs se repolitisent ? Dans le livre, vous évoquez l’histoire du Clodo, le « Comité de libération et de détournement des ordinateurs », un groupe actif dans les années 1980…

Le Clodo se revendiquait comme un groupe d’informaticiens et mettait le feu à des équipements informatiques dans des entreprises de hautes technologies, dans la région de Toulouse au début des années 1980. On s’est parfois beaucoup gargarisé de l’image des hackers en oubliant à quel point ce terme renvoie à des personnes aux positionnement politiques extrêmement divers et variés. Je pense que le problème de ce divorce des luttes numériques avec d’autres fronts des combats sociaux et politiques est lié à une dépolitisation de la vision d’Internet et du numérique. Pour donner un exemple, à la Quadrature, il y avait au début l’idée que dans les actions de plaidoyer, il fallait parler à des gens de tout les partis, qu’Internet était une technologie qui dépassait les clivages politiques traditionnels. Nous trouvions des gens à l’UMP, à l’époque, qui comprenaient bien les enjeux numériques et qui étaient prêts à défendre la neutralité du net. Il y avait, et il y a encore, bien sûr un intérêt stratégique à cet approche a-partisane, mais je pense qu’à certains moments cela a pu contribuer à créer des angles morts.

Y a-t-il d’autres exemples ?

Oui, ces problématiques sont anciennes. Dans les années 1990, la première association de défense des libertés numériques, l’Association des utilisateurs d’Internet, est fondée en 1995-1996. Cette association va exploser assez vite justement parce qu’il y a des dissensions politiques internes entre ceux qui sont sur une approche a-partisane et ceux qui veulent inscrire cette défense dans une vision politique ancrée à gauche. Ce qui ne plaît pas à tout le monde. Car dans le public de ces milieux, il y a certes beaucoup de « libristes » (partisans du logiciel libre, ndlr), mais aussi beaucoup d’entrepreneurs liés aux logiques de start-ups et au capitalisme, qui n’acceptent pas forcément les discours plus gauchistes des critiques du capitalisme.

Les milieux militants anticapitalistes et altermondialistes ont-ils aussi désinvesti la question technique ?

Dans les milieux anarchistes et autonomes, il me semble que les militants ont conservé une vraie connaissance du domaine. Typiquement, les prestataires de service militants qui naissent dans les années 1990, comme Riseup, basé au Canada, ou Autistici en Italie, ont continué à utiliser les outils qu’ils ont créés (e-mail, VPN…, ndlr), à éditer des ouvrages comme le guide d’autodéfense numérique, à développer des outils cryptographiques pour échapper à la répression.

Mais c’est une petite partie de ce qu’était la mouvance altermondialiste. Dans le champ militant plus orthodoxe, la dissociation entre hackers et mouvement sociaux a sans doute conduit à ne pas voir l’émergence des problématiques très contemporaines de l’économie des plateformes, du digital labour, de l’automatisation massive des bureaucraties. Aujourd’hui, la situation est suffisamment critique pour que ces enjeux soient beaucoup plus clairs pour tout le monde.

Aujourd’hui, assiste-t-on à un retour de bâton répressif sur les usages d’Internet ?

C’est la remise en selle de vieilles techniques de pouvoir, de surveillance, de censure, de propagande, de secret d’État, de centralisation des moyens de communication, qui permettent d’assurer des formes de contrôle qui ont été en fait conçues par les théoriciens de la raison d’État des 16ème et 17ème siècles, et qui ont été mise en œuvre à l’époque pour juguler les effets politiques assez chaotiques et multiples de l’imprimerie.

Au début d’Internet, il y a l’idée qu’on s’affranchit du droit, que les formes existantes de censure et de surveillance étaient complètement désarmées par la nature transfrontière des flux, par l’anonymat, par la cryptographie citoyenne. Puis, nous avons assisté à un réarmement des techniques de pouvoir de l’État, largement facilitées par la recentralisation très forte de l’architecture d’Internet autour des grandes plateformes privées qui dominent maintenant l’économie numérique et aussi le capitalisme mondial. Apple, Google, Amazon et Microsoft figurent dans les cinq premières capitalisations boursières mondiales.

À quel moment le pouvoir de contrôle passe de l’État à ces multinationales ?

Nous nous trouvons en plein dans ce moment. Les projets de loi sur la surveillance privée et automatisée sont envisagés depuis les années 1990. Ils avaient alors été tenus en échec grâce aux luttes et aux jurisprudences qui défendaient encore la liberté d’expression. Ils ont été relancés pour les intérêts commerciaux des plateformes, pour censurer les tétons sur Facebook et les groupes politiques qui font tâche face à la volonté de ces entreprises de maintenir des espaces aseptisés pour plaire aux annonceurs. Ces dispositifs sont à leur tour en train d’être récupérés par les États.

Lorsque Google est né, à la fin des années 1990, il n’était pas forcément évident d’anticiper le pouvoir qu’allait prendre cette entreprise sur Internet…

Certaines de ces entreprises n’existaient même pas au moment où Internet commence à se démocratiser en 1995. Ou elles surfaient alors à plein sur une image contre-culturelle de l’informatique. Nous avons mal mesuré comment elles se sont rapprochées des États, d’abord très discrètement, puis de manière beaucoup plus évidente depuis 2013. Au début, ces entreprises se présentaient comme défenseures des libertés. Elles étaient très souvent aux côtés des militants des droits humains et des activistes numériques dans les débats législatifs, comme sur la neutralité du net ou la liberté d’expression. Jusqu’en 2010, nous avions du mal à les imaginer comme parties intégrantes du complexe militaro-industriel.

Et pourtant, dès 2003, Google Maps s’est développé sur la base de contrats et de marchés publics en lien avec le Pentagone et l’armée états-unienne. Quand Google lance Android (en 2007, ndlr), pour concurrencer l’IPhone qui est en train d’acquérir le monopole, il le font en logiciel libre (sur la base du noyau Linux, ndlr), donc on se dit « super » ! Et on ne voit pas du tout que cela va permettre de tracer les personnes, alors que, forcément, en interne, la stratégie était bien comprise. Nous avons été très naïfs, collectivement, pour analyser l’émergence du capitalisme de surveillance. Aujourd’hui, Shoshana Zuboff montre bien comment cela était déjà en germe au début des années 2000 suite à l’éclatement de la bulle Internet [3]. Cela vaudrait aussi pour la mode du big data et du cloud, qui arrivent autour de 2010, et celle de la smart city. Ce sont des concept industriels fumeux recyclés pour lancer des vagues d’innovation, pour exciter les marchés et les investisseurs, et convaincre les États de faire évoluer leur cadre juridique. Derrière, il y a des logiques commerciales participant directement à des logiques de contrôle social que nous avons d’abord eu du mal à reconnaître comme telles.

Le livre se termine par un appel à « arrêter la machine ». C’est-à-dire ?

Dans les années 1960-1970, des militants et des intellectuels voyaient bien en quoi les technologies et leur alliance aux grandes bureaucraties étaient dangereuses et antagonistes avec l’idéal démocratique. Leurs analyses infusaient alors dans des mouvements d’opposition à la machine informatique. Les enseignants et les travailleurs sociaux refusaient les premiers fichiers informatiques. Il y avait des grèves contre l’informatisation de l’économie des services, qui rend les taches des travailleurs et travailleuses encore moins intéressantes. Puis, d’un coup, au début des années 1980, on a assisté à un retournement brutal de l’opinion. Les critiques se sont trouvées balayées par l’arrivée de l’ordinateur personnel et de l’idée que désormais, les machines seraient au service des individus. C’est à ce moment qu’ont émergé les utopies militantes de l’Internet.

Aujourd’hui, l’informatique et la ressource de calcul se re-centralisent. L’intelligence artificielle, le big data, ce n’est pas quelque chose qu’on peut facilement distribuer dans la population, cela suppose des grandes infrastructures et des gros moyens. Par ailleurs, dans le champ bureaucratique, la mode est à la gouvernance par les données. On veut produire, collecter, analyser des données à tous les échelons, de Parcoursup à la médecine, en passant par la lutte contre la fraude fiscale où maintenant, le gouvernement veut surveiller les réseaux sociaux. Le fonctionnement des bureaucraties va de plus en plus être confié à des machines plutôt qu’à des humains, dans un période où en plus, depuis 2001, le régime sécuritaire bat son plein.

Contrairement à ce qu’on cru les hackers et d’autres chantres des utopies internet, Internet n’est pas parvenu à dissocier pouvoir et technologie. Aucune des approches que nous avons employées jusqu’ici ne fonctionne réellement. Que ce soit au niveau technologique, par exemple de « privacy by design » (quand la conception technique même d’un outil protège la vie privée et les données personnelles, ndlr), la cryptographie, le logiciel libre, il y a plein d’outils de résistance, mais manifestement, ça ne prend pas. Quant aux approches juridiques de type protection des droits et Cnil [4], elles pèchent aussi par leur limites intrinsèques. Alors, sans pour autant abandonner ces fronts, il faut les articuler à un refus plus radical. Il faut nous attaquer au progrès technologique lui-même. Il faut réinvestir la critique de la technologie.

 

bastamag.net