{"id":11300,"date":"2022-06-10T02:58:41","date_gmt":"2022-06-10T00:58:41","guid":{"rendered":"https:\/\/www.quieryavenir.fr\/blog\/?p=11300"},"modified":"2022-06-07T16:33:29","modified_gmt":"2022-06-07T14:33:29","slug":"ce-que-la-numerisation-fait-au-service-public-et-a-ses-usagers","status":"publish","type":"post","link":"https:\/\/www.quieryavenir.fr\/blog\/2022\/06\/10\/ce-que-la-numerisation-fait-au-service-public-et-a-ses-usagers\/","title":{"rendered":"Ce que la num\u00e9risation fait au service public et \u00e0 ses usagers"},"content":{"rendered":"

\"\"<\/span><\/span><\/h1>\n

D\u00e9bat du 9 juin \u00e0 l\u2019amicale du Cr\u00eat de Roch \u00e0 Saint-Etienne<\/b><\/span><\/span><\/h1>\n

<\/p>\n

Pour la pr\u00e9sentation, \u00e9couter l\u2019enregistrement :<\/span><\/span><\/p>\n

https:\/\/halteaucontrolenumerique.fr\/?p=1152<\/a> <\/span><\/span><\/p>\n

A la CAF, \u00e0 P\u00f4le emploi et ailleurs, l\u2019Etat s\u2019appuie sur les technologies num\u00e9riques, particuli\u00e8rement l\u2019IA, pour d\u00e9busquer ceux qui abuseraient des prestations sociales. Cette \u00ab\u00a0bonne gestion\u00a0\u00bb affich\u00e9e par les doctrines lib\u00e9rales est l\u2019un des alibis avanc\u00e9s pour privatiser des pans entiers de l\u2019administration, sous couvert de solutionnisme technologique.<\/span><\/span><\/strong><\/p>\n

Depuis une dizaine d\u2019ann\u00e9es, le propos des <\/span><\/span>politiques<\/span><\/span><\/em> est de limiter les d\u00e9penses publiques, notamment avec l\u2019aide de l\u2019intelligence artificielle (1). Pr\u00e9c\u00e9demment, les politiques sociales se fondaient sur une approche collective, fixant la norme et ce qui s\u2019en \u00e9loigne. D\u00e9sormais, d\u2019apr\u00e8s le sociologue Vincent Dubois (2), \u00ab\u00a0<\/span><\/span>l\u2019unit\u00e9 de base n\u2019est plus la population mais les comportements individuels qu\u2019on cherche \u00e0 pr\u00e9dire. Le risque n\u2019est plus la maladie, la vieillesse ou la mort,\u00a0mais la morale personnelle\u00a0\u00bb<\/span><\/span><\/em> en scrutant \u00e0 la loupe le mode de vie des allocataires.<\/span><\/span><\/p>\n

Ciblage des pauvres<\/span><\/span><\/h3>\n

Pour d\u00e9busquer les fraudeurs, la Caisse d\u2019allocations familiales (CAF) \u2014 qui verse notamment le RSA \u2014 exp\u00e9rimente des algorithmes depuis 2004, et a g\u00e9n\u00e9ralis\u00e9 le <\/span><\/span>data mining<\/span><\/span><\/em> depuis 2011. C\u2019est-\u00e0-dire l\u2019exploration de donn\u00e9es diverses, de l\u2019\u00e9tat civil aux habitudes de consommation, compil\u00e9es et crois\u00e9es de fa\u00e7on discr\u00e9tionnaire. Ces outils auraient un impact sur la vie de pr\u00e8s de 13 millions de foyers. Trente millions de personnes en tout. Pr\u00e8s d\u2019un Fran\u00e7ais sur deux. Combien en sont correctement inform\u00e9s\u2009?<\/span><\/span><\/p>\n

Ces organismes peuvent s\u2019appuyer sur quantit\u00e9 de bases de donn\u00e9es qui n\u2019ont pas grand-chose \u00e0 envier \u00e0 la police. Ainsi, la CAF consignerait pas moins de mille donn\u00e9es diff\u00e9rentes par allocataire. De quoi cartographier leur quotidien et leur entourage. Dans un tel syst\u00e8me, plus de place pour l\u2019erreur ou l\u2019oubli, seulement pour la surveillance et la punition. De quoi creuser inexorablement les in\u00e9galit\u00e9s.\u00a0\u00ab\u00a0<\/span><\/span>Seuls les pauvres sont plac\u00e9s sous le microscope de la clart\u00e9 scientifique<\/span><\/span><\/em>\u00ab\u00a0,\u00a0\u00e9crit la politologue am\u00e9ricaine Virginia Eubanks dans <\/span><\/span>Automating Inequality<\/span><\/span><\/em>\u00a0(3), \u00e9voquant la cr\u00e9ation d\u2019\u00a0\u00bb<\/span><\/span>hospices digitaux<\/span><\/span><\/em>\u00a0\u00bb\u00a0qui mettent les plus d\u00e9munis au ban de la soci\u00e9t\u00e9.<\/span><\/span><\/p>\n

Dans un rapport traitant de la <\/span><\/span>lutte contre la fraude aux prestations sociales<\/span><\/span><\/em> (4), la d\u00e9put\u00e9e LREM Carole Grandjean et la s\u00e9natrice Nathalie Goulet (Union centriste) plaidaient pour un \u00e9largissement des outils de <\/span><\/span>data mining<\/span><\/span><\/em> \u00e0 P\u00f4le emploi (qui en poss\u00e8de d\u00e9j\u00e0 plusieurs, po\u00e9tiquement baptis\u00e9s <\/span><\/span>Sillage <\/span><\/span><\/em>ou <\/span><\/span>Ocapi<\/span><\/span><\/em>).<\/span><\/span><\/p>\n

Certains sont plus vis\u00e9s que d\u2019autres\u00a0: ainsi, une circulaire de 2012 de la CAF recommandait de cibler les personnes n\u00e9es hors de l\u2019Union europ\u00e9enne lors des contr\u00f4les.\u00a0Pour le d\u00e9fenseur des droits, \u00ab\u00a0<\/span><\/span>Les ciblages discriminatoires,\u00a0quelle que soit la technologie employ\u00e9e, ne font que relayer pr\u00e9jug\u00e9s et st\u00e9r\u00e9otypes, conduisant \u00e0 une surrepr\u00e9sentation de ces populations parmi les fraudeurs.<\/span><\/span><\/em>\u00ab\u00a0<\/span><\/span><\/p>\n

Vincent Dubois le confirme\u00a0: <\/span><\/span>\u00ab\u00a0L\u2019usage des technologies de statistique pr\u00e9dictive conduit \u00e0 intensifier le ciblage intrusif des populations les\u00a0plus pr\u00e9caires. L\u2019informatisation produit non seulement un effet de d\u00e9shumanisation, mais aussi de d\u00e9r\u00e9alisation\u00a0\u00bb <\/span><\/span><\/em>car\u00a0<\/span><\/span>\u00ab\u00a0Les situations personnelles n\u2019existent plus que sous une forme abstraite, sans tenir compte des r\u00e9alit\u00e9s sociales ou humaines.\u00a0\u00bb<\/span><\/span><\/em><\/p>\n

La <\/span><\/span>fraude sociale<\/span><\/span><\/em> par les allocataires est pourtant estim\u00e9e \u00e0 deux milliards d\u2019euros, donc bien inf\u00e9rieure \u00e0 l\u2019\u00e9vasion fiscale, \u00e9valu\u00e9e entre 80 et 100 milliards d\u2019euros par an, mais aussi au non versement de cotisations par les employeurs\u2026 Mais ces derniers ne sont pas suspect\u00e9s d\u2019abuser de la g\u00e9n\u00e9rosit\u00e9 publique.<\/span><\/span><\/p>\n

Combats europ\u00e9ens contre l\u2019algorithmisation de l\u2019administration<\/span><\/span><\/h3>\n

Deux combats europ\u00e9ens (gagn\u00e9s !) contre l\u2019usage abusif des outils num\u00e9riques en mati\u00e8re de contr\u00f4le social sont \u00e0 relever\u00a0:<\/span><\/span><\/p>\n

\u2013 aux Pays-Bas, une coalition d\u2019ONG (<\/span><\/span>Platform Bescherming Burgerrechten<\/span><\/span><\/em>) (5) a r\u00e9ussi \u00e0 obtenir en f\u00e9vrier 2020 le d\u00e9mant\u00e8lement d\u2019un dispositif algorithme de profilage des individus nomm\u00e9 <\/span><\/span>SyRI<\/span><\/span><\/em> (<\/span><\/span>System risk indication<\/span><\/span><\/em>). Il permettait aux organismes sociaux de combiner des donn\u00e9es \u00e0 caract\u00e8re priv\u00e9 sur l\u2019emploi, les dettes, l\u2019\u00e9ducation, le logement. Pour le tribunal, <\/span><\/span>SyRI<\/span><\/span><\/em> viole la <\/span><\/span>Convention europ\u00e9enne des droits de l\u2019homme<\/span><\/span><\/em>, notamment en discriminant et stigmatisant les citoyens des zones urbaines d\u00e9favoris\u00e9es, selon leur situation socio-\u00e9conomique et leur origine migratoire.<\/span><\/span><\/p>\n

\u2013 en Pologne, au terme d\u2019une bataille juridique conclue en 2014, la fondation <\/span><\/span>Panoptykon<\/span><\/span><\/em> (6), a contraint les autorit\u00e9s \u00e0 r\u00e9v\u00e9ler les m\u00e9canismes de l\u2019algorithme utilis\u00e9 pour profiler les demandeurs d\u2019emploi. Le tribunal a conclu au caract\u00e8re anticonstitutionnel de ce contr\u00f4le des populations pouvant conduire \u00e0 des discriminations sur des individus vuln\u00e9rables comme les handicap\u00e9s, les femmes seules\u2026<\/span><\/span><\/p>\n

En France, le collectif <\/span><\/span>Changer de cap<\/span><\/span><\/em> m\u00e8ne une campagne d\u2019ampleur (7) contre le d\u00e9ploiement d\u2019un syst\u00e8me algorithmique \u00e0 la CAF au d\u00e9triment des allocataires pauvres. Le site <\/span><\/span>Basta\u00a0!<\/span><\/span><\/em> relaie tr\u00e8s largement leur action (et d\u2019autres) dans une s\u00e9ries d\u2019articles (8).<\/span><\/span><\/p>\n

Num\u00e9risation pour privatiser<\/span><\/span><\/h3>\n

Les auteurs du livre\u00a0<\/span><\/span>La privatisation num\u00e9rique. D\u00e9stabilisation et r\u00e9invention du service public<\/span><\/span><\/em> (9) analysent l\u2019usage du num\u00e9rique pour privatiser progressivement les services publics (en rapport avec les th\u00e9ories du <\/span><\/span>New Public Management<\/span><\/span><\/em>, promues par les cabinets de conseil, <\/span><\/span>Mc Kinsey<\/span><\/span><\/em> par exemple). Cela conduit \u00e0 la substitution d\u2019algorithmes aux agents publics, \u00e0 la g\u00e9n\u00e9ralisation des m\u00e9canismes de notation et au d\u00e9veloppement de l\u2019ub\u00e9risation des t\u00e2ches.<\/span><\/span><\/p>\n

Ses effets sociaux sont consid\u00e9rables : ces m\u00e9thodes d\u00e9stabilisent les administrations, renforcent les in\u00e9galit\u00e9s sociales d\u2019acc\u00e8s aux services publics et acc\u00e9l\u00e8rent la perte de souverainet\u00e9 publique. Les auteurs proposent une r\u00e9appropriation des communs num\u00e9riques, notamment sous la forme d\u2019un militantisme de fonctionnaires qui ainsi d\u00e9fendraient la souverainet\u00e9 num\u00e9rique nationale.<\/span><\/span><\/p>\n

(1) Article d\u2019Olivier Tesquet, <\/span><\/span>Comment l\u2019intelligence artificielle cible les plus pr\u00e9caires<\/span><\/span><\/a><\/em><\/p>\n

(2) Vincent Dubois, sociologue \u00e0 Sciences-po Strasbourg, auteur du livre\u00a0<\/a><\/span><\/span>Contr\u00f4ler les assist\u00e9s, gen\u00e8ses et usages d\u2019un mot d\u2019ordre<\/u><\/span><\/span><\/a><\/em><\/p>\n

(3) Virginia Eubanks,\u00a0<\/span><\/span>Automating Inequality, How High-tech Tools Profile, Police, and Punish the Poor,\u00a0<\/span><\/span><\/em>St. Martin\u2019s Press, 2018<\/span><\/span><\/p>\n

(4) Rapport d\u2019octobre 2019, <\/a><\/span><\/span>Lutter contre les fraudes aux prestations sociales, un levier de justice sociale pour une juste prestation<\/span><\/span><\/em><\/a>, par Carole Grandjean et Nathalie Goulet<\/span><\/span><\/p>\n

(5) https:\/\/www.openglobalrights.org\/landmark-judgment-from-netherlands-on-digital-welfare-states\/?lang=French<\/a><\/span><\/span><\/p>\n

(6) https:\/\/algorithmwatch.org\/en\/poland-government-to-scrap-controversial-unemployment-scoring-system\/<\/a><\/span><\/span><\/p>\n

(7) <\/span><\/span>Changer de cap<\/span><\/span><\/em>\u00a0: action contre le d\u00e9ploiement d\u2019un syst\u00e8me algorithmique \u00e0 la CAF https:\/\/changerdecap.net\/caf-controle-social\/<\/a><\/span><\/span><\/p>\n

(8) Sur le site <\/span><\/span>Basta !<\/span><\/span><\/em>, https:\/\/basta.media\/Quel-avenir-pour-nos-protections<\/a><\/span><\/span><\/p>\n

(9) Gilles Jeannot et Simon Cottin-Marx, <\/span><\/span>La privatisation num\u00e9rique. D\u00e9stabilisation et r\u00e9invention du service public<\/span><\/span><\/a><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

D\u00e9bat du 9 juin \u00e0 l\u2019amicale du Cr\u00eat de Roch \u00e0 Saint-Etienne<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-11300","post","type-post","status-publish","format-standard","hentry","category-non-classe"],"_links":{"self":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/11300","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/comments?post=11300"}],"version-history":[{"count":1,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/11300\/revisions"}],"predecessor-version":[{"id":11301,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/posts\/11300\/revisions\/11301"}],"wp:attachment":[{"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/media?parent=11300"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/categories?post=11300"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.quieryavenir.fr\/blog\/wp-json\/wp\/v2\/tags?post=11300"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}