Pouvoir des algorithmes, ambitions des plateformes

Un livre d’ Olivier Ertzscheid  ; préface d’Antonio A. Casilli

Le livre d’Olivier Ertzscheid que vous tenez entre vos mains est un chasseur qui traque deux proies : l’une est la généalogie des grandes plateformes, l’autre cet attracteur d’inquiétudes politiques connu sous le nom d’« algorithme ». Les deux thèmes de sa quête intellectuelle sont on ne peut plus différents. Le premier est par trop sur le devant de la scène, l’autre furtif.

Les grandes plateformes recherchent activement des occasions de visibilité. Leur communication luxuriante, leur storytelling désinhibé façonnent l’esprit du temps. Même le choix d’un acronyme pour les désigner est pléthorique : GAFA ? GAFAM ? Ou alors AFAMA (Apple, Facebook, Amazon, Microsoft et Alphabet ex-Google) ? Les plateformes numériques sont multiples parce qu’elles sont partout. L’algorithme, au contraire, n’est nulle part. Il n’est pas situé à un endroit précis, pas gardé en un lieu sûr, pas circonscrit à une seule page ou à une seule communauté.

Quand l’algorithme fonctionne comme il faut, on ne le distingue pas de la décision humaine : « je vais me rendre d’A à B et c’est mon choix, pas celui du GPS » ; « je vais acheter un produit, parce que je le veux et non pas parce que la publicité ciblée me le suggère » ; « je vais regarder ce film de policiers héroïques parce que je l’aime bien, non pas parce que les films sur la brutalité policière ont été déréférencés par le filtrage de contenus ».

Qu’elle soit envisagée dans la littérature universitaire de référence comme un dispositif producteur d’opacité¹, ou comme un jeu d’opinions et de croyances cristallisées², ou encore comme la énième manifestation de l’idéal-type weberien de la bureaucratie impersonnelle et impénétrable³, une entité algorithmique est surtout un simulacre. En la poursuivant, chacun se trompe.

La deuxième proie d’Olivier Ertzscheid est l’ombre même. Ainsi, pour être certain d’en saisir les traits distinctifs, l’auteur se doit de multiplier les prises de vue en adoptant un double regard, de chercheur et de blogueur militant. Ni orilège ni abrégé, son ouvrage constitue, par rapport au blog affordance.info qu’il anime avec succès depuis plus d’une décennie, une sorte de propriété émergente – une synthèse qui offre davantage que la somme des billets. L’arbitrage qui a régi la logique de composition et le passage du site web au livre, fournit aux lecteurs un outil analytique original. Le parti pris est ici de montrer le côté sombre du numérique, mais avec la fière intention de fournir une alternative, d’esquiver les embouteillages du sens et les torsions du vivre ensemble qui pourraient se manifester dans le monde qui s’annonce.

Le bloggeur affordance.info et l’auteur Olivier Ertzscheid ont cela en commun. Tous les deux cherchent à rendre digeste et vivante la matière de leur entreprise intellectuelle. Mais ils le font en la mettant en résonance avec les préoccupations quotidiennes des lecteurs, non pas avec les rêves (ou les cauchemars) des ténors du barreau du tribunal populaire des technologies. Dans ces pages, pas de robots géants, ni d’intelligences artificielles surpuissantes qui exterminent les êtres vivants. Pas de voitures volantes non plus, ni de big data qui adoucissent les mœurs et transforment l’existence en une villégiature perpétuelle. Ertzscheid appartient à une confrérie d’auteurs qui a fait surface au début du XXI^e siècle, et qui refuse les dualismes simplistes entre technophobie primaire et pur discours d’accompagnement des producteurs de gadget. Sa réflexion se situe aux antipodes du catastrophisme facile d’Éric Sadin ou de l’indignation routinière d’Evgeny Morozov, tout comme de l’optimisme turbochargé de Joël de Rosnay, ou du nihilisme technocrate de Nicolas Colin. Ses compagnonnages théoriques sont ailleurs. La lecture de cet ouvrage est suffisante pour comprendre que les auteurs avec lesquels il entre en résonance, parfois jusqu’au mimétisme, sont autres.

Deux enjeux s’avèrent ici centraux : celui de la régulation de l’innovation et celui de la capacité d’agir des citoyens- usagers. La question des régimes de régulation traverse toute la première partie de l’ouvrage, où le lecteur aperçoit, puis admet, et en n obtient la preuve que la régulation est consubstantielle à l’émergence de tout objet technologique. Pour les plateformes numériques, la régulation est une condition d’existence. Elles ne vivent que dans une dialectique d’alignement inquiet et toujours renouvelé avec l’environnement normatif auquel elles appartiennent. Croire qu’elles sont « disruptives », voire libératrices ou porteuses de désordre créateur, est un fantasme libertarien qui fait de l’importance des cadres légaux, des interlocuteurs sociaux, des services étatiques et des institutions économiques. Ces instances sont nécessaires non seulement à la naissance, mais à la conservation et à la survie des entreprises plateformisées. Le fait que ces dernières se représentent comme des appareils de capture agressifs et nomades (alors qu’elles sont tout au plus des îlots pavillonnaires entourés de gardes surarmés et payés par les contribuables) est la plus grande de leurs hypocrisies.

Si elles ont beau jeu d’afficher leur insouciance pour les règles régissant les collectivités humaines qui constituent leurs bases d’utilisateurs, c’est parce que leurs produits s’inscrivent au plus près de l’intimité de ces derniers. L’usager intériorise la présence des plateformes, de leurs dispositifs qui collent au corps, de leurs applications qui assouvissent les besoins, de leurs services qui entérinent les désirs en temps réel. Il en vient à croire que tout cela se fait sans résistance et sans une activité laborieuse de recherche d’un accord préalable. C’est la mystification d’une société frictionless qui gomme la régulation et qui dissimule la nature collective des plateformes. Chaque utilisateur se croit seul face à des milliards d’autres utilisateurs qui, paraît-il, ne protestent pas auprès des autorités préposées, ne disputent pas les abus devant les cours de justice, ne contestent pas les comportements de prédation auprès d’agences étatiques. Pourtant la réalité des résistances et des conflits qui émaillent la vie des plateformes est différente, et tourne autour de négociations collectives qui constituent, elles aussi, des mécanismes de régulation.

Comme dans la célèbre couverture de l’édition de 1651 du Léviathan de Hobbes, le corps du géant numérique contemporain est constitué d’une myriade de corps individuels. Même si chaque individu se croit impuissant face à l’entier, l’entier dérive son pouvoir des parties et se trouve contraint par les règles qui les régissent. Le niveau d’analyse adopté par l’auteur de L’Appétit des Géants reflète cette exigence : rendre compte du trouble du particulier face à l’internet tout entier, la difficulté d’emboîter le vécu micro-social de l’usager et l’aménagement macro-social que les plateformes engendrent. C’est à ce moment-là que le deuxième questionnement central de l’ouvrage est posé : tiraillé entre régulation collective et gouvernementalité algorithmique, quel est le degré d’agentivité de l’internaute ? Où réside sa capacité d’agir ?

Olivier Ertzscheid ne risque pas de nous entraîner, comme d’autres auteurs l’ont fait, dans la réédition d’une stérile querelle du libre arbitre à l’heure des plateformes. Certes, l’usager collabore par sa volonté à son salut, pour ainsi dire. Mais cela ne revient pas à négliger le rôle des plateformes ni leurs efforts reconnus de « mise en obéissance » des publics. Finalement la posture épistémique adoptée dans cet ouvrage consiste à ne pas circonscrire explicitement le périmètre de la capacité d’agir des usagers, mais de le donner à voir en creux, en s’attardant sur son négatif – les tentatives de surdétermination par les plateformes. Leur volonté de désamorcer l’autonomie de leurs usagers, de stigmatiser leurs comportements les plus libres, d’envisager toute expérimentation comme une forme de sabotage refrène l’individu et complexifie tout essai d’émancipation. C’est sur cette volonté que l’ouvrage s’attarde pour définir la portion congrue (ou pas) des formes diverses de déterminisme algorithmique. Quelle est la latitude de la gestion algorithmique des actions humaines ? Quelles sont ses temporalités spécifiques ? Quelle est sa nature qualitative ? Si ces questions se posent avec une acuité croissante, c’est parce que les contraintes imposées par les plateformes actuelles sur leurs publics deviennent de plus en plus importantes. C’est aux géants du numérique que les gouvernements délèguent, pour des raisons d’opportunisme politique et économique, de nombreuses responsabilités, telle celles de trier l’information accessible, de vérifier la disponibilité des services, d’établir l’architecture des prix, de surveiller les comportements en ligne, etc.

La fonction du chercheur est alors de dévoiler les mécanismes d’invisibilisation de ces contraintes – dont l’exemple principal est la rhétorique de « l’algorithme ». La conséquence de ce dévoilement est l’exposition de l’inconsistance ontologique de ce dernier. L’algorithme n’existe pas, parce qu’il n’est que le prétexte pour un ensemble de décisions directes des acteurs des plateformes ciblant les communautés des usagers. Dissimulés derrière un apparat de bases de données et de modèles mathématiques, on retrouve le choix humain effectué par les concepteurs des interfaces, la règle de fonctionnement établie par les ingénieurs, la norme implémentée par les services de sécurité, et le référentiel de tarifs adopté par les commerciaux de chaque plateforme.

Force est d’admettre que la croyance collective de nos contemporains en un processus automatique objectif, efficace, exact, à la fois intelligible et imperscrutable, n’est qu’une superstition. Cet ouvrage est alors un rappel utile des problèmes qui surgissent quand on considère « l’algorithme » comme un être surpuissant et transcendant la décision humaine. Et son auteur de montrer que les dévotions envers cette entité abstraite ne sont que des rituels de reconnaissance des pouvoirs ô combien tangibles de ses propriétaires. Les instances publiques et privées qui se servent aujourd’hui de prétextes algorithmiques pour gouverner les conduites humaines participent de cette énorme imposture. Il n’y a pas d’algorithme, il n’y a que la décision de quelqu’un d’autre.

Mais si l’on peut affirmer que les algorithmes n’existent pas c’est aussi pour une autre raison : pour fonctionner, ils ont besoin de l’intervention humaine. Qui plus est, ils ne peuvent pas s’en passer. Au fond, ils ne sont que du travail humain dissimulé. Mais quel type de travail ? Le travail expert et créatif des « sublimes » du numérique (les informaticiens, les designers, les innovateurs), ou celui humble et répétitif des « galériens » qui fatiguent dans des fermes à clics ? Il faut aller plus loin dans l’analyse, abonder dans le sens de la dénonciation du mensonge algorithmique en inscrivant la réflexion actuelle dans le contexte plus vaste de l’étude du digital labor sur les plateformes. Pour ce faire, il faut se positionner du côté de l’usager pour observer à quel point les procédés qui brident sa capacité d’agir au travers de prescriptions (« cliquer sur ce lien »), de suggestions (« vous allez adorer ce livre »), de pressions sociales (« vos amis ont partagé cette vidéo »), sont d’abord et avant tout des systèmes de mise au travail. Bien que – nous l’avons déjà annoncé – ce constat n’implique pas l’adhésion d’Ertzscheid à une vision du « serf arbitre » des utilisateurs des plateformes, il dénonce néanmoins la servicialisation, c’est-à-dire la transformation de leurs usages en services rendus aux propriétaires des plateformes. Les contenus générés par les utilisateurs sont monétisés ; les données personnelles servent pour entraîner et calibrer les processus d’apprentissage automatique ; les comportements de tri, filtrage, sélection, annotation, partage et qualification de l’information sont transformés en autant de micro-tâches réalisées par les humains, et non pas par les algorithmes. Ces services contribuent à la valorisation gargantuesque des géants d’internet et des licornes.

La servicialisation ne sera freinée que par une action collective visant à garantir les droits des usagers sur leurs informations. Cette démarche coordonnée se concrétise initialement dans la construction de répertoires politiques cohérents avec la prise de conscience de la part du travail humain dans les fonctionnements algorithmiques. « Le modèle économique des GAFAM », affirme Ertzscheid, « va obliger à repenser l’articulation du monde entre une forme clivante et extrême de capitalisme et une forme renouvelée de marxisme à l’heure du digital labor, des intelligences artificielles, de la singularité, du transhumanisme, de l’automatisation et des biotechs ». Mais ceci n’est pas suffisant au rétablissement de l’exercice démocratique, qui passe forcément par des initiatives concrètes de régulation : « par le déploiement d’un index indépendant du web et la convocation d’États généraux. La réponse à l’automatisation, au digital labor et à l’éclatement de l’ensemble des repères qui fondaient jusqu’ici le marché de l’emploi passe par une réflexion sur le revenu universel. La réponse aux biotechs passe par un moratoire, couplé à un soutien clair et fort à la recherche publique sur ces questions. »

L’importance d’étudier les algorithmes, surtout après avoir apporté la preuve de leur nature chimérique, réside alors dans leur potentiel à représenter une ligne de fuite vers d’autres sujets encore plus pertinents. C’est un peu comme dans ce navet de science-fiction, où le protagoniste se rend chez un personnage énigmatique appelé, sans imagination, « l’Oracle ». On lui montre un ustensile de cuisine avec lequel on pratique un vieux tour de magie qui consiste à la tordre sans la toucher. Mais, lui explique-t-on, la manipulation cache une vérité surprenante : « La cuillère n’existe pas. Et là, tu sauras que la seule chose qui se plie ce n’est pas la cuillère : c’est seulement ton reflet ». Au-delà de la métaphore, la découverte de l’inexistence d’un objet qui occupe notre champ de vision – dans notre cas, les algorithmes – n’est pas une posture défaitiste. Il s’agit, au contraire, d’une manière d’apprendre à nous reconnaître nous-mêmes dans sa réfraction.

https://entreleslignesentrelesmots.blog/2017/06/12/preface-dantonio-a-casilli-a-louvr