A propos du livre de Shoshanna Zuboff

Ce livre a été unanimement salué par toute la gauche occidentale comme le manuel de référence pour comprendre l’évolution des vingt dernières années. Plusieurs critiques ont aussi été formulées, qui insistent en général sur la posture réformiste assez naïve de Zuboff : il y aurait un bon capitalisme, jusque dans les années 90, mais il a été perverti par un monstre, le capitalisme de surveillance, qui sévit depuis deux décennies maintenant.

 

https://lundi.am/Un-capitalisme-de-surveillance

Extraits

Sur la couverture de l’édition française, en bas à gauche, un éloge de Naomi Klein n’hésite pas à dire du livre qu’il est à lui seul ’un acte d’autodéfense numérique’. En bas à droite de la couverture, on lit aussi ’Plébiscité par The New York Times, The Financial Times, The Guardian et Barack Obama’. Le même Obama au sujet duquel on apprend en avançant dans le livre qu’il a mené ses campagnes électorales avec l’aide d’un certain Eric Schmitt, ancien PDG de Google, afin de cibler massivement les électeurs indécis qui pouvaient pencher en sa faveur.

Voilà qui laisse songeur : contre qui peut-il bien nous défendre, ce gros livre, si même Obama l’adoube publiquement ? Plus concrètement, l’approche de Zuboff nous aide-t-elle à y voir plus clair et trouver des failles lorsqu’on veut s’attaquer radicalement au monde de l’économie et du capitalisme ?

Dans un premier temps, nous reprendrons la structure du livre pour y glaner les analyses qui nous semblent pertinentes et permettre à celles et ceux qui n’ont pas le temps de lire le livre d’en avoir une petite idée. Ensuite, on verra pourquoi la critique de Zuboff rate au moins en partie sa cible parce qu’elle se fonde sur un socle pourri dès l’origine.

Naissance et apogée du capitalisme de surveillance

« vous avez besoin de gagner, mais vous feriez mieux de gagner en douceur »
Eric Schmitt

Passons la couverture tristement comique et ouvrons le livre. Voici la définition autour de laquelle tourne le livre : ’Le capitalisme de surveillance revendique unilatéralement l’expérience humaine comme matière première gratuite destinée à être traduite en données comportementales. Bien que certaines de ces données soient utilisées pour améliorer des produits ou des services, le reste est déclaré comme un surplus comportemental propriétaire, qui vient alimenter des chaînes de production avancées, connues sous le nom d’ ’intelligence artificielle’, pour être transformé en produits de prédiction qui anticipent ce que vous allez faire, maintenant, bientôt, plus tard. Enfin, ces produits de prédiction sont négociés sur un nouveau marché, celui des prédictions comportementales, que j’appelle les marchés des comportements futurs.’

L’idée générale de Zuboff est relativement simple : après avoir transformé la terre, la monnaie et le travail en marchandises, le capitalisme est en train de faire la même chose avec l’expérience humaine – elle dit même parfois la nature humaine. Comment transforme-t-on de l’expérience en marchandise ? C’est tout l’enjeu des deux premières parties du livre.

La naissance du capitalisme de surveillance : le surplus comportemental

Le récit de Zuboff a l’avantage et l’inconvénient de dramatiser ses explications au point de décréter que le capitalisme de surveillance naît précisément en 2001-2002, lorsque des économistes et ingénieurs de Google se rendent compte de la manière dont ils peuvent exploiter les requêtes des utilisateurs pour générer des publicités personnalisées. ’Le capitalisme de surveillance a été inventé par un groupe spécifique d’êtres humains en un lieu et à une époque spécifique. Ce n’est ni un résultat inhérent à la technologie numérique, ni une expression nécessaire du capitalisme de l’information . Avantage : resituer précisément les choses, les initiatives, les manœuvres et les stratégies afin de défaire l’image d’un ’système’ et d’une ’technologie’ simplement autonomes et inévitables dans leur déploiement. Inconvénient : réduire tout à quelques idées de génies plus ou moins mal intentionnés et laisser de côté ce qu’il y a de nécessaire et de plus profond dans cette dynamique.

…

L’avancée du capitalisme de surveillance

« Avancez vite et cassez des choses. Si vous ne cassez rien, vous n’avancez pas assez vite ! » Mark Zuckerberg

La deuxième partie de l’ouvrage insiste sur l’approfondissement et la diversification des revenus recherchés par le capitalisme de surveillance. Ces dynamiques reposent en grande partie sur la tendance ubiquitaire de l’informatique, déjà évoquée dans le premier article de notre rubrique. On connaît la fameuse phrase d’Eric Schmitt en 2015 au Forum économique mondial de Davos : ’Internet va disparaître. Il y aura tant d’adresses IP […], tant d’appareils, de capteurs, d’objets connectés, tant d’éléments avec lesquels on peut interagir qu’on ne s’en rendra même plus compte. Ils feront partie de votre existence en permanence. Imaginez : vous entrez dans une pièce et tout est dynamique !  Il n’est pas question de croire sur parole les propos publicitaires de Schmitt, qui ne faisait alors que citer Mark Weiser (’Les technologies les plus profondes sont celles qui disparaissent. […] Des machines qui s’adaptent à l’environnement des individus au lieu de forcer lesdits individus à s’adapter au leur : voilà qui rend l’emploi d’un ordinateur aussi revigorant qu’une promenade en forêt’, etc). Il s’agit plutôt de faire voir les nouvelles tendances qui permettent de faire de l’argent : vendre des objets connectés ; récupérer des masses de données toujours plus grandes ; exploiter ces données pour fournir des prédictions plus efficaces ; et par ces anticipations prédictives inciter à de nouveaux comportements.

Avant de donner des exemples de ces développements, mentionnons qu’une fois encore, intérêts étatiques et privés ne sont pas étrangers les uns aux autres. Si la surveillance et le renseignement font évidemment partie des fonctions de tout gouvernement qui se respecte, la modification des comportements ou la ’conduite des conduites’ en est depuis longtemps une prérogative essentielle. En revenant sur les vieux dossiers de la CIA dans les années 50, Zuboff rappelle à qui l’aurait oublié que celle-ci avait développé ’une palette de programmes destinée à prédire, à contrôler et à modifier les comportements humains. Alors que la guerre de Corée avait popularisé les techniques communistes de ’lavage du cerveau’ qui avaient réduits les prisonniers de guerre américain à l’état de ’robots passifs’ – selon Allen Dules, ancien directeur de la CIA – il fallait donc ’que la CIA s’engage rapidement dans la recherche sur le développement du ’contrôle mental’, ce qui allait de la ’destructuration’ et de la ’reprogrammation’ de l’individu jusqu’à la modification des attitudes et des actions de tout un pays. La plupart de ces recherches furent menées dans le cadre du projet MK-Ultra et gardées secrètes car, comme le dit un rapport de l’Inspection Générale en 63 : ’la recherche sur la manipulation du comportement humain est considérée par de nombreuses autorités médicales et apparentées comme une pratique contraire à la déontologie ; par conséquent, la réputation des spécialistes participants au programme MK-Ultra risque d’en souffrir’. Ce n’est que dans les années 70 que les choses seront connues, après une enquête du Sénat. Passé le scandale, ces applications ont tout simplement migré…vers des applications civiles dans toutes sortes d’institutions (écoles, usines, prisons, hôpitaux, etc).

…

Du pouvoir instrumentarien pour une troisième modernité

« Nous devons créer un système nerveux pour l’humanité qui puisse consolider nos systèmes sociaux partout sur la planète », Alex Pentland

Dans cette troisième partie, Zuboff s’attaque à l’instrumentarisme qu’elle définit comme ’l’instrumentation et l’instrumentalisation du comportement à des fins de modification, de prédiction, de monétisation et de contrôle. Jusqu’ici, rien de nouveau. Elle prétend que le pouvoir « instrumentarien » qui en découle se distingue d’un pouvoir totalitaire auquel on aurait trop facilement tendance à l’associer, en témoigne l’expression de ’Big Brother’ que l’on retrouve partout associée aux nouvelles technologies (reconnaissance faciales, caméras, etc). Le totalitarisme vise avant tout le contrôle des âmes comme l’explique Mussolini dans La Doctrine du fascisme (le fascisme c’est ’l’âme de l’âme […] Il veut refaire non pas les formes de la vie humaine, mais son contenu’) ou Staline (’C’est ce qui importe, la production des âmes humaines’). Le pouvoir « instrumentarien », lui, vise plutôt les organismes, les corps dans ce qu’ils ont d’extérieur, de concret, les corps comme objets dotés de comportements. On peut douter de cette distinction rigide entre âme et corps et de la catégorie même de totalitarisme qui permet à Zuboff de distinguer les deux pouvoirs, reste qu’elle tire une généalogie plutôt convaincante de l’approche qui permet à une nouvelle rationalité gouvernementale de s’imposer depuis quelques dizaines d’années.

…

Critique de la critique

La fable du bon et du mauvais capitalisme

Le premier point de désaccord avec Zuboff se situe sur l’histoire du capitalisme. Son récit laisse penser qu’il y aurait un capitalisme relativement honnête et sain qui aurait dégénéré autour de l’an 2000 à cause de quelques génies de l’informatique et de l’état d’exception instauré après les attentats du 11 septembre. C’est évidemment trop simple. L’ensemble du XX^e siècle témoigne contre l’idée qu’il y aurait des techniques neutres que le capitalisme s’accapare seulement dans un deuxième temps. On sait bien que le machinisme est avant tout un prolongement du capitalisme lorsque ce dernier veut accentuer la productivité et se passer d’une main d’œuvre trop onéreuse. Par ailleurs, la surveillance et le contrôle comme enjeux politiques et économiques majeurs apparaissent au moins avec les débuts du capitalisme : déjà au XVIII^e-XIX^e siècles il fallait compter et contrôler les marchandises mais aussi surveiller et dresser la main d’œuvre exploitable, tout comme les vagabonds. Inutile de revenir sur tout cela, mais le silence de Zuboff sur ces aspects est étonnant, quand il n’est pas suspect. Elle semble en effet avoir pour le capitalisme industriel ’à la Ford’ un certain respect puisque, dans le modèle de ce dernier, l’intérêt des travailleurs était pris en compte en tant que consommateurs : une partie des gains de productivité réalisés sur les chaînes de montage leur était reversé et ils pouvaient acheter leur voiture à bas prix. Tout faisait système et semblait profiter à tout le monde. En réagissant à une demande sociale réellement existante et en la réalisant, Ford restait finalement dans un échange de bons procédés : ’l’invention de Ford approfondissait les relations de réciprocité entre le capitalisme et ces populations. Les inventions de Google, en revanche, détruisirent les relations de réciprocité inscrites dans son contrat originel avec les utilisateurs. C’est peu de dire que cette approche nous semble aberrante quand on pense aux cadences imposées et aux formes de vie infernales des ouvriers de la grande industrie fordiste (évoquées dans le second article de cette rubrique).

L’opposition entre un capitalisme industriel et un capitalisme de surveillance numérique est également trompeuse car l’industrie n’a jamais disparu sous le régime du capitalisme de surveillance. C’est ce que doivent toujours dissimuler les approches universitaires qui tiennent à faire valoir leur concept comme clef de lecture de l’époque : la persistance des anciens modèles et des anciennes formes. Et cela à bien des égards. Zuboff écrit par exemple : ’Le capitalisme industriel reposait sur l’exploitation et le contrôle de la nature – les conséquences sont catastrophiques, ce dont nous ne prenons conscience que maintenant. Quant au capitalisme de surveillance, il se structure, comme je l’ai suggéré, sur l’exploitation et le contrôle de la nature humaine. En fait, l’exploitation et le contrôle de la nature n’ont jamais cessé pour la bonne et simple raison que le capitalisme actuel, de même qu’internet et le secteur du numérique, reposent aussi sur l’industrie. Ils reposent sur l’extraction de matière premières relativement rares et une dépense d’énergie énorme. Les productions s’additionnent sans cesse et on continue éperdument le saccage du monde. Mais ce qui est vrai pour le monde vaut également pour la nature humaine. Un peu de Marx ne fait pas de mal : il n’y a pas de nature humaine en dehors d’une relation avec un monde matériel. Si le capitalisme industriel détruisait la ’nature’, c’est que d’une manière ou d’une autre il saccageait également le tissu éthique des humains qui vivaient en son sein. La destruction des communautés traditionnelles, l’industrialisation, les guerres mondiales, la bombe atomique, la société de consommation, tout cela ne compte-t-il pas tout autant comme une vaste destruction de monde pour les personnes concernées et leurs descendants ?

Le droit et le confort bourgeois comme socles de la ’critique’

Au-delà de l’analyse du capitalisme, c’est dans la vision plus générale du monde que notre vision diverge radicalement de celle de Zuboff. Selon elle, le capitalisme de surveillance remet en cause en 20 ans ce qui a mis des années à se constituer : ’cette vision nouvelle de par sa dynamique menace des systèmes – sociétaux et psychologiques, cette fois, et fragiles – qui ont mis des milliers d’années pour arriver à une certaine maturité, des milliers d’années de souffrances et de conflits humains : ces systèmes, nous les appelons perspective démocratique et accomplissement de l’individu comme source de jugement moral et autonome. Tout se passe donc comme si la civilisation était arrivé à la ’fin de l’histoire’ vers les années 90 et que quelques ingénieurs de chez Google avaient tout gâché. C’est évidemment une caricature de la pensée de Zuboff, mais le désaccord persiste devant l’idée d’un ’produit fini’ de la civilisatn qu’il s’agirait de sauvegarder. Et pour cause, le ’produit fini’ en question n’est autre que l’individu autonome qui, a bien des égards, est plus un problème qu’autre chose, précisément parce qu’il est la cause et la conséquence d’un capitalisme destructeur. Il est bien impossible de le jeter par dessus bord et il faudrait y consacrer une entière discussion, mais nous ne pensons pas qu’il soit un levier suffisant ou pertinent pour s’opposer aux logiques technologiques et économiques actuelles puisqu’il est en réalité le résultat du processus capitaliste lui-même. L’usager individuel est aussi bien le produit (comme objet) de l’extraction de données personnalisées qu’il n’est produit (comme sujet) par ce processus même. Pas question non plus de brandir son opposé, le ’collectif’ ou la ’communauté’, dont on a vu avec Zuboff que le capitalisme de surveillance les utilisait aussi pour son compte. Il conviendrait plutôt de diviser à nouveau ces entités et l’opposition binaire qu’elles composent pour examiner soigneusement ce dont nous désirons hériter. Mais c’est une autre histoire.

La téléologie de Zuboff la pousse donc à la défense d’une sorte de socle éthico-politique tout simple, tout nu, tout bourgeois : l’individu et sa vie privée. D’ailleurs, l’un des ’mythes’, assumé comme tel, qui revient sans arrêt comme contrepoint critique dans le livre de Zuboff est le ’chez soi’, le ’sanctuaire’, le ’refuge’ dont elle donne un exemple concret au travers de l’Aware Home. C’est le nom d’un projet d’ingénieurs et informaticiens de Georgia Tech, en 2000, qui imaginèrent ’une ’symbiose humain-maison’ dans laquelle de nombreux processus animés et inanimés seraient captés par un réseau complexe de ’capteurs sensibles au contexte’ intégrés à la maison et par les objets connectés que portent ses occupants.’ Le tout avec 3 hypothèses de travail : ce genre de système ouvre un champ du savoir complètement nouveau ; ce savoir et le pouvoir qu’il confèrent doivent appartenir et servir aux habitants de la maison ; cette nouvelle maison numérique resterait un ’chez-soi’, un sanctuaire privé pour les habitants. Ce modèle de l’Aware Home, Zuboff le brandira à nouveau pour montrer le modèle de ce qu’elle désire : un chez soi numérique dont les données ne fuitent pas. Las, elle enchaîne ensuite sur le business actuel que représente la maison connectée, soit autour de 151 milliards de dollars en 2023.

Au contraire de Zuboff, nous n’avons pas envie de cette bulle privée numérique, que les données générées soit exploitées ou non par les grands méchants GAFAM (à ce propos, on notera que Zuboff se concentre essentiellement sur Google, Facebook, Microsoft et un peu Amazon, comme si Apple, évoqué rapidement au début, représentait un futur numérique plus ’humain’). D’abord parce qu’elle contribue à mettre à distance le monde réel, social. Ensuite parce qu’elle continuera à reposer sur des technologies dévastatrices, suffisamment éloignées du chez-soi rassurant. Enfin parce qu’il nous semble que cette bulle privée n’est pas pour rien dans l’impuissance toute particulière générée par le capitalisme numérique. Comme tout ce qui repose sur la conscience et la critique, la stratégie politique de Zuboff mise fondamentalement sur l’indignation : il s’agit de sortir de l’engourdissement, de retrouver une capacité de stupéfaction, etc. Ceci n’est pas rien, mais il est aussi probable que le capitalisme numérique tolère tout à fait ce genre de discours, surtout lorsqu’ils sont écrit ou lu derrière des écrans. D’ailleurs, la plupart des mécanismes exposés ici, on les connaît déjà plus ou moins et il n’est pour autant évident de s’y rapporter, surtout lorsque, comme Zuboff, on les attribue à quelques grandes et lointaines entreprises. Zuboff apporte donc un peu de clarté en exposant dans le détail des stratégies clairement ’ennemies’ qui préfèrent souvent rester secrètes, mais elle apporte elle aussi, à son tour, son lot d’impuissance, une sorte d’indignation muette et difficile à convertir en autre chose qu’elle même.