Le capitalisme de surveillance

Ce capitalisme maître des marionnettes

Pour l’économiste Shoshana Zuboff, auteur de L’Âge du capitalisme de surveillance paru aux États-Unis, le danger que font courir les géants du Web est bien plus grand qu’on ne l’imagine. En siphonnant les données personnelles pour modifier à leur insu les comportements de leurs utilisateurs, ils menacent la démocratie elle-même.

 En s’appropriant nos données personnelles, les entrepreneurs du « capitalisme de surveillance » mettent en danger rien de moins que la démocratie, par la manipulation de notre libre arbitre. Telle est la thèse défendue par Shoshana Zuboff dans un volumineux ouvrage qui vient de paraître, L’Âge du capitalisme de surveillance (éditions Public Affairs, en anglais).

Le capitalisme est entré dans une nouvelle ère, explique l’autrice et, pour le comprendre et le combattre, il nous faudra chausser de nouvelles lunettes, car les anciennes n’opèrent plus devant un changement à la fois si radical et si rapide – une révolution survenue en moins de vingt ans. Une « nouvelle planète », une situation « sans précédent » dont on aurait tort de penser qu’il s’agit d’une simple continuation du passé.

Tout à la crainte du totalitarisme étatique, « nous n’avons pas vu venir les entreprises aux noms imaginatifs dirigées par de jeunes génies qui semblaient pouvoir fournir gratuitement exactement ce que nous voulions ». C’est l’une des principales nouveautés, et par là une source de cécité, de la situation actuelle : la surveillance, et le danger, sont passés entre les mains d’entreprises privées.

En introduction aux conférences qu’elle tient depuis la parution de son livre, Shoshana Zuboff demande aux personnes de l’assistance de résumer en un mot la raison de leur présence. Si, reconnaît-elle, son public forme un panel quelque peu biaisé, la cohorte de mots qu’elle recueille, chaque fois les mêmes, justifie sa démonstration.

Ce 13 février à New York, parmi les expressions choisies, on pouvait entendre : publicité, capitalisme global, panoptique, profilage, peur, humanité, résistance, exploitation, acheteurs, solution, révolution, déterminisme, souveraineté, manipulation, démocratie, dignité, autonomie. À Londres, rappelle-t-elle : « identité, liberté, pouvoir, loi ». Comme à Bruxelles ou Cambridge…

Comment en est-on arrivé à ce stade de « l’obscurcissement du rêve numérique », trente ans seulement après la naissance d’Internet ? C’est que le capitalisme est sorti des usines et des bureaux pour inonder tous les espaces de la société. Les entrepreneurs de la surveillance nous sont tombés dessus juste « parce que nous vivons, pas pour notre travail », explique-t-elle ce jour-là à New York.

« Comment nous appellent-ils ?, questionne cette professeure d’économie à Harvard. Nous n’avons pas de nom, nous ne sommes pas des travailleurs. Le nom qu’ils nous ont donné est “utilisateur”. Et ça ne va pas. » Ce que ce mot « utilisateur » nous apprend, dit-elle, est que ce capitalisme n’est plus confiné à l’économie. Il va donc falloir pour le combattre trouver de nouveaux moyens d’action collective, comme les travailleurs ont trouvé face au capitalisme industriel leurs propres moyens de lutte. Comment « mettre hors la loi ce nouveau capitalisme voyou », qui prospère « sur nos sentiments » et dont « le but est de nous automatiser » ?

Au lieu de notre force de travail, chère au capitalisme industriel, le capitalisme de surveillance se nourrit de « chaque aspect de chaque expérience humaine » et nous conduit à signer le pacte faustien du XXIe siècle : « Il est presque impossible » d’échapper au capitalisme de surveillance, « malgré le fait que ce que nous devons donner en retour va détruire la vie telle que nous l’avons connue. Considérons qu’Internet est devenu essentiel à la vie sociale, qu’il est maintenant saturé par le commerce, et que le commerce est soumis au capitalisme de surveillance ».

Que nos sentiments servent à générer du profit est inacceptable, mais aussi radicalement nouveau, explique l’autrice à ceux qui voudraient n’y voir qu’une continuité. Qu’il s’agisse d’orienter nos relations amicales ou amoureuses, notre vote ou le contenu de notre réfrigérateur, de notre garde-robe ou de notre bibliothèque, ce qui nous arrive est la « perte de la souveraineté sur notre propre vie ». Notre dépendance est au cœur du projet de surveillance commerciale, qui se définit en deux questions : Quel est le produit ? Quel est le client ?

Pour Shoshana Zuboff, malgré l’adage selon lequel « si c’est gratuit, vous êtes le produit », les internautes ne sont pas des produits, mais « les sources d’une valeur ajoutée cruciale au capitalisme de surveillance : les objets d’une opération d’extraction de matières premières technologiquement avancée et de plus en plus inéluctable », des producteurs – malgré eux – de données. Le produit, c’est « notre comportement futur », sous forme de clic, d’achat, en ligne ou hors ligne, comportement dont les clients sont les entreprises qui l’achètent et le vendent, l’échangent sur un nouveau marché.

Ce pacte avec le diable signé en utilisant Google et Facebook (entre autres…) nous engourdit le cerveau, nous fait créer des mécanismes de défense (« je n’ai rien à cacher »), génère un « cynisme résigné ». « En ce sens, le capitalisme de surveillance impose un choix fondamentalement illégitime que les individus du XXIe siècle ne devraient pas avoir à faire », explique Shoshana Zuboff.

Nous voilà victimes d’une asymétrie inédite : « Le capitalisme de surveillance sait tout de nous, alors que ses opérations sont conçues pour que nous n’en sachions rien », il « annule les droits fondamentaux associés à l’autonomie individuelle », droits « essentiels à la possibilité même d’une société démocratique ».

Dans un mémo interne à Facebook daté de 2016, et révélé par Buzzfeed en mars 2018 : « Donc nous connectons plus de gens. Cela peut être mauvais s’ils le rendent mauvais. Cela peut coûter la vie de quelqu’un exposé au harcèlement. Quelqu’un mourra peut-être dans une attaque terroriste coordonnée avec nos outils. Et nous connectons toujours les gens.

« Tout comme la civilisation industrielle s’est épanouie aux dépens de la nature et menace désormais de nous coûter la Terre, la civilisation de l’information dessinée par le capitalisme de surveillance et sa puissance instrumentale va prospérer au coût de la nature humaine et menacer de nous coûter notre humanité », met en garde l’économiste. Pour s’en protéger, il ne suffira pas de lutter contre les monopoles ni de défendre la confidentialité des données, même si c’est indispensable.

Shoshana Zuboff invite à ne pas confondre le capitalisme de surveillance avec les technologies qui n’en sont que l’instrument : le capitalisme de surveillance n’est pas une technologie, c’est une logique en action. D’ailleurs, rappelle-t-elle, les cookies ont été inventés en 1994 par Netscape, sans être exploités par le capitalisme de surveillance qui ne s’en est saisi que des années plus tard. Par exemple, se demande-t-elle, quel besoin a Google de conserver éternellement l’historique de nos recherches ? Ça peut servir, a répondu en substance Eric Schmidt, directeur général de Google, en 2009.

Il n’y a pas de fatalité technologique, estime au contraire l’autrice. Les technologies ne sont pas des fins en soi mais des moyens au service de l’économie : « S’il est possible d’imaginer quelque chose comme l’Internet des objets sans le capitalisme de surveillance, il n’est pas possible d’imaginer le capitalisme de surveillance sans l’Internet des objets. » Et de citer Max Weber : « Le fait que ce qu’on appelle le progrès technologique des temps modernes soit à ce point orienté économiquement vers le profit est l’un des points fondamentaux de l’histoire de la technologie. » Les vieilles lunettes peuvent encore servir parfois.

Notre personnalité : c’est ce dont le capitalisme de surveillance va nous déposséder, mettant fin à une époque qui pourtant le nourrit, celle de l’individualisation, celle des droits humains individuels grâce auxquels chacun peut espérer devenir le créateur de sa propre vie, sans suivre les chemins tout tracés d’une appartenance de classe, de genre, de lieu, regrette Zuboff. Malgré son potentiel libérateur, l’époque se révèle difficile à vivre. L’individualisation est mise en échec par les inégalités auxquelles chacun des 99 % se heurte. Nous payons pour notre propre domination.

« Au tournant du [XXIe] siècle, alors que les mécanismes fondamentaux du capitalisme de surveillance commençaient juste à prendre forme, la maximalisation de la valeur pour les actionnaires fut largement acceptée comme la fonction objective de l’entreprise », détruisant les emplois au passage. Et après dix ans de succès de l’industrie du numérique et le développement de l’Internet, les pays occidentaux sont entrés dans les années 2010 avec un niveau d’inégalités record, des émeutes à Londres, des Indignés en Espagne et Occupy aux États-Unis…

Ce décor posé, Shoshana Zuboff montre avec une précision redoutable les mécanismes économiques sur lesquels se fonde l’immense accumulation de richesses du capitalisme de surveillance, qui ne se satisfait pas de nous prendre nos pensées, et dont Google est décrit comme l’inventeur et chef de file, et Facebook le rejeton surdoué.

Au commencement était donc Google, qui est au capitalisme de surveillance, nous dit Shoshana Zuboff, ce que Ford et General Motors ont été au capitalisme industriel. Comme ses prédécesseurs, il faut scruter Google pas seulement en tant que compagnie mais comme point de départ d’une nouvelle forme de capitalisme. Si ses inventions dans le domaine de la publicité, comme les enchères et la publicité ciblée, ont été sur-étudiées, elles sont en revanche sous-théorisées, regrette Zuboff, car « l’invention par Google de la publicité ciblée a pavé le chemin des succès financiers […] mais aussi de la découverte et de l’élaboration du capitalisme de surveillance ».

En 1999, 7 millions de recherches étaient effectuées chaque jour avec Google. Il n’y avait pas de revenus à en tirer, pas moyen de faire payer les « utilisateurs », et seulement sept personnes au service publicité, « dont la plupart partageaient l’antipathie générale des fondateurs pour la publicité ». Ces derniers, Sergey Brin et Lawrence Page, pouvaient alors écrire : « Nous nous attendons à ce que les moteurs de recherche financés par la publicité soient fondamentalement biaisés en faveur des annonceurs et éloignés des besoins des consommateurs. Comme il est très difficile, même pour les experts, d’évaluer les moteurs de recherche, leur biais est particulièrement insidieux. […] [Il est donc] crucial d’avoir un moteur de recherche performant et transparent. »

Quand arriva l’éclatement de la bulle internet en 2000.

C’est à la fin de cette année que, sous la pression de ses investisseurs, Google change de stratégie. Grâce aux données de recherche et de navigation qu’il détient, Google ne dirigera plus la publicité sur les mots-clés recherchés, mais la rendra visible aux personnes jugées pertinentes. C’est un changement de paradigme essentiel : les données ne servent plus seulement à améliorer le produit, c’est-à-dire l’efficacité du moteur de recherche, à proposer de meilleures réponses.

Elles servent à autre chose : à donner aux annonceurs le public qu’ils recherchent et, partant, à gagner de l’argent. Les données personnelles, ce que l’on cherche, où, quand et comment, deviennent ce que Shoshana Zuboff appelle le « surplus comportemental », que l’on pourrait traduire par la valeur ajoutée comportementale, qui va mener tout droit au modèle économique de Facebook – trait d’union entre les deux, Sheryl Sandberg, qui passera du premier au second en 2008 –, et avec elle la recette des revenus publicitaires.

En 2002, le New York Times se demande encore si Google peut inventer un modèle économique aussi performant que l’est son moteur de recherche. En 2003, la méthode de collecte des données est développée dans un brevet intitulé « Génération d’informations d’utilisateur pour une utilisation dans la publicité ciblée » (« Generating user information for use in targeted advertising »). Un tournant à 180 degrés qui fait passer Google du service à l’usager à sa surveillance.

Le fait qu’aujourd’hui on ne s’étonne plus de la publicité ciblée vers la bonne personne, au bon moment, au bon endroit montre, selon Shoshana Zuboff, l’ampleur du chemin parcouru. La publicité, qui avait toujours été un jeu de devinettes, adopte des méthodes précises.

La réification puis la marchandisation de nos comportements entraînent chez Google et Facebook une boulimie d’achats de toutes les entreprises qui peuvent fournir de la donnée, et il y en a de plus en plus au fur et à mesure que nos vies se numérisent. Google achète YouTube en 2006 pour 1,65 milliard de dollars (on peut consulter sur Wikipédia la liste des rachats effectués par Google et Facebook). C’est comme cela qu’il faut comprendre le développement du système Android par Google : la possibilité de répliquer sur les téléphones mobiles la domination obtenue dans la recherche, pour en faire le moyen de savoir tout ce qui se passe dans un téléphone et littéralement kidnapper les comportements quotidiens.

« Le monde en ligne n’est pas vraiment régi par des lois terrestres. C’est le plus grand espace non gouverné au monde », se félicitent en 2004 Eric Schmidt et Jared Cohen (Google), dès la première page de leur livre The New Digital Age: Transformation Nations, Businesses, and Our Lives. Le hold-up sur les données personnelles a déjà eu lieu, sans qu’aucune autorisation n’ait jamais été demandée.

Shoshana Zuboff attribue une lourde part de responsabilité à l’article 230 de la loi de 2006 qui régule les télécommunications aux États-Unis, loi qui, comme la LCEN en France, protège les hébergeurs de la responsabilités des contenus qui y sont publiés. Car pour entretenir le flux de données produites par les utilisateurs, les plateformes ont un besoin vital de l’expression des internautes, de l’usage même des plateformes. Pas seulement pour maximiser le temps passé à regarder des publicités, mais bien pour recueillir les données des participants aux discussions, les likes et toutes sortes d’actions.

Pour lire l’article complet : Capitalisme de surveillance