Comment les technologies perpétuent le sexisme

Deux pandémies aux USA

Aujourd’hui, les États-Unis croulent sous le poids de deux pandémies : le coronavirus et la brutalité policière. Toutes deux engendrent des violences physiques et psychologiques. Toutes deux tuent et blessent de manière disproportionnée les populations noires et brunes. Et toutes deux sont animées par la technologie que nous concevons, réorientons et déployons – qu’il s’agisse du traçage des contacts, de la reconnaissance faciale ou des médias sociaux.

Ce constat est celui de Charlton McIlwain, un universitaire et essayiste américain, auteur d’un best-seller, Black Software. Il travaille depuis plusieurs années sur les questions de race et de médias dans la vie politique et sociale. La mort de George Floyd et les émeutes qu’elle a suscitées à travers tous les États-Unis et dans de nombreux pays dans le monde sont, selon lui, une occasion d’amplifier un phénomène qui a commencé dès l’ère du président Kennedy : la mise à disposition des technologies avancées dans la connaissance puis progressivement le contrôle des communautés Noires et Latinos.

Le problème du « problème »

Il signe aujourd’hui une tribune dans la revue du MIT dans laquelle il explique comment les technologies sont appelées par la société pour résoudre des problèmes. Mais quand la société définit, encadre et représente les personnes de couleur comme « le problème », alors ces solutions technologiques ne rendent plus de services ; elles font du mal.

« Nous avons conçu des technologies de reconnaissance faciale qui ciblent les suspects criminels en fonction de la couleur de leur peau. Nous avons formé des systèmes automatisés de profilage des risques qui identifient de manière disproportionnée les Latinos comme des immigrants illégaux. Nous avons mis au point des algorithmes de notation du crédit qui identifient de manière disproportionnée les Noirs comme des personnes à risque et les empêchent d’acheter des maisons, d’obtenir des prêts ou de trouver un emploi. » Il pose alors la question : « Allons-nous continuer à concevoir et à déployer des outils qui servent les intérêts du racisme et de la suprématie blanche ? »

Datas des sixties

Cette question n’est pas nouvelle. Déjà, en 1960, les dirigeants du parti démocrate menaient la campagne de John Fitzgerald Kennedy. Ils observaient un grave déficit d’intentions de vote dans les communautés noires et d’autres minorités raciales. Comment pouvait-on les convertir au vote en faveur du candidat Kennedy ? C’est un politologue du MIT, Ithiel de Sola Pool, qui leur apporta la réponse. Il proposa de mettre en œuvre une vaste opération de collecte et d’analyse de données. Cette pratique est monnaie courante aujourd’hui mais il faut se souvenir qu’en 1960, les PC n’existaient pas et que les énormes ordinateurs, d’une capacité de calcul inférieure à un smartphone d’entrée de gamme actuel, occupaient des pièces entières et fonctionnaient avec des cartes perforées.

Le directeur de campagne du candidat Kennedy n’était autre que son frère Robert. Celui-ci se rendit en toute discrétion dans les bureaux d’Ithel Sola Pool, à la Simulmatics Corporation. Le politologue allait lui proposer un plan d’une ampleur inédite qui restera secret pendant de longues années. Il s’agissait de collecter et traiter plus de soixante enquêtes sur les élections de 1952, 1954, 1956, 1958 et 1960, et d’entreprendre plus de cent mille interviews. Ithiel de Sola Pool conçut un programme informatique (on ne disait pas encore aussi facilement qu’aujourd’hui « algorithme ») spécialement pour cette opération qui lui permit de créer des classements d’électeurs, générant jusqu’à 480 profils différents de type « Afro-Américain, métropolitain, catholique, à faible revenu, démocrate… », enregistrant 52 groupes différents pour différentes questions. Bien que la recherche ait été à l’origine destinée à découvrir les préjugés religieux de l’électorat, l’une des premières tâches de l’équipe de Simulmatics a été une étude sur le vote des Noirs dans le Nord, menée juste avant la Convention nationale démocrate.

Il y a tout lieu de croire que Kennedy a vaincu le vice-président Nixon en 1960 en grande partie grâce au travail du groupe secret de scientifiques des données qui lui fournirent un profilage précis de l’électorat déterminant. La puissance de la nouvelle méthode de modélisation prédictive avait démontré son efficacité. Quelques années plus tard, Ithiel de Sola Pool sera l’un des protagonistes les plus importants de la création d’Arpanet, l’ancêtre de l’Internet actuel.

L’historien Eugene Burdick a écrit un livre sur les travaux secrets de la société Simulmatics. Il y décrit cette équipe souterraine « composée de personnes innocentes et bien intentionnées qui travaillent avec des règles à calcul, des machines à calculer et des ordinateurs capables de retenir une quantité presque infinie de bits d’informations, ainsi que de trier, traiter et reproduire ces informations en appuyant sur un bouton. Malgré la bonne foi de ces personnes hautement qualifiées, dit l’auteur, leur intervention peut reconstruire radicalement le système politique américain, construire une nouvelle politique, et même changer les institutions américaines vénérées et vénérables. »

Étouffer les émeutes

Et c’est ce qui est arrivé. La tension raciale que nous connaissons ces jours-ci aux États-Unis après le meurtre de George Floyd, étaient la norme dans les années 1960. Le pic fut atteint en 1967 lorsque des villes se sont enflammées dans tout le pays, de Birmingham, en Alabama, à Rochester, New York, Minneapolis, dans le Minnesota. Le président Johnson créa la Commission Kerner pour comprendre les causes de ce qu’il considérait comme des troubles civils à mettre sur le compte notamment de la ghettoïsation. Cette commission se tourna vers Simulmatics. La société avait fait son chemin depuis l’époque Kennedy. Elle travailla notamment pendant la guerre du Vietnam avec la DARPA (l’agence de recherche de l’armée américaine) sur une campagne de propagande psychologique massive contre le Viêt-cong.

Les experts de la société fondée par Pool se sont donc rendus à la demande de la commission Kerner sur les points chauds pour identifier et interroger les Noirs qui occupaient une place stratégique dans les manifestations. Ils ont identifié et interrogé des personnes noires stratégiquement importantes. Ils ont ensuite identifié et interrogé d’autres résidents noirs, dans tous les lieux, des salons de coiffure aux églises. Ils ont demandé aux habitants ce qu’ils pensaient de la couverture médiatique des « émeutes ». Mais ils ont également recueilli des données sur bien d’autres choses encore : comment les gens se sont déplacés dans la ville et aux alentours pendant les troubles, à qui ils ont parlé avant et pendant les émeutes et comment ils se sont préparés à l’après-crise. Ils ont collecté des données sur l’utilisation des péages, les ventes des stations d’essence et les itinéraires des bus. Ils sont entrés dans ces communautés sous prétexte d’essayer de comprendre comment les médias ont prétendument déclenché des « émeutes ». Bref, ces travaux ont abouti à recenser des informations sur les mouvements de la population pendant les émeutes, sur les personnes avec lesquelles elle a interagi avant et pendant les émeutes, sur la façon dont elle s’est préparée aux conséquences des émeutes.

Johnson et les dirigeants politiques de l’époque voulaient résoudre un problème : ils voulaient utiliser les informations recueillies par Simulmatics pour retracer le flux d’informations pendant les manifestations afin d’identifier les personnes influentes et décapiter les dirigeants des manifestations.

 

Police sélective

Soixante ans plus tard, des experts tels que le professeur Charlton McIlwain remettent en question toute cette méthodologie qui, selon lui, a contribué à la création des « systèmes d’information de la justice pénale« , jetant les bases du profilage racial, de la surveillance prédictive et de la police sélective sur le plan racial… ce qui, aux États-Unis, se traduit par l’incarcération de millions de Noirs et de Latinos pendant des décennies.

« Les Noirs sont encore aujourd’hui le problème des États-Unis ». Dans cette période de pandémie de coronavirus, les médecins ont découvert que les Noirs, les Latinos et les populations autochtones étaient infectés et affectés de manière disproportionnée. « Soudain, nous sommes également devenus un problème national ; nous avons menacé de propager le virus de manière disproportionnée » écrit Charlton McIlwain.

La situation s’est aggravée lorsque le meurtre de George Floyd par un policier blanc a fait descendre des milliers de manifestants dans les rues. Lorsque les pillages et les émeutes ont commencé, les Noirs ont été à nouveau considérés comme une menace pour l’ordre public, au point où le président Trump envisagerait le recours à l’armée.

Comme dans les années 1960, l’utilisation de technologies scientifiques est un leitmotiv pour l’administration d’un pays comme les Etats-Unis confrontés à des soulèvements populaires d’ampleur. « On peut se demander combien de temps il faudra aux forces de l’ordre pour déployer ces technologies [de traçage] que nous avons d’abord conçues pour lutter contre le Covid-19 afin de réprimer la menace que les Noirs sont censés représenter pour la sécurité de la nation. » écrit l’auteur de Black Software.

 

up-magazine.info