J’ai lu « La nouvelle servitude volontaire » sous-titré « Enquête sur le projet politique de la Silicon Valley » de Philippe Vion-Dury.
Philippe Vion-Dury
Le livre est édité chez FYP. Le livre se présente comme une enquête qui « révèle comment les géants du web influencent et contrôle notre comportement ». Philippe Vion-Dury est journaliste, rédacteur en chef de Socialter.
Cette note est en quatre parties :
– I : Une réalité intégralement personnalisée
– II : Les écosystèmes de manipulation
– III : La machine à gouverner
– IV : La société de contrôle intégral
Chapitre III : La machine à gouverner
1— La gestion de la menace : un parfum de Minority Report
Philippe Vion-Dury évoque d’abord le pouvoir régalien de sécurité. Dans ce domaine, l’impact du numérique se matérialise par la mise en place de « police prédictive ». Et même si cela ne fonctionne pas toujours, l’auteur souligne qu’il est inquiétant de voir ces outils, non seulement noter les circonstances ou les endroits dangereux, mais aussi les gens. Des exemples montrent que les polices équipées avec ces outils d’analyse des délits, commencent à faire du préventif, mais sur la base d’une estimation algorithmique du futur. « L’individu est dès lors complètement virtualisé il devient suspect sur le simple fondement d’avoir été placé par le jeu des statistiques dans une catégorie d’individus que l’on estime dangereuse ». L’auteur y voit « l’émergence tâtonnante d’un régime de culpabilité présumée ». L’essor de la décision algorithmique est concomitant « à la capitulation progressive du projet d’autonomie politique, c’est-à-dire à la volonté des individus formant le peuple de déterminer ensemble leurs normes sociales et leur devenir commun ».
2— Le scoring : l’évaluation qui ne cesse jamais
Cette gouvernance par les algorithmes passe par la notation des internautes dans tous les compartiments, dans tous les recoins, même les plus intimes, de la vie. Philippe Vion-Dury développe longuement l’impact de ce « scoring » permanent.
Ce système de notation a pris déjà place largement dans le marché du recrutement, et plus généralement dans les ressources humaines. L’auteur parle d’une expérience menée par les équipes d’Alex « Sandy » Pentland auprès de collaborateurs de Bank of America pour mesurer toutes leurs interactions et les quantifier (p169). À la Wichita State University, les étudiants sont déjà admis selon leur score prédictif de réussite aux examens, qui prend en compte des critères loin d’être académique, par exemple : date à laquelle ils ont postulé, visité le campus…
Tout cela relève d’une volonté de rationalisation (par la notation, via des algorithmes). Mais Philippe Vion-Dury rappelle qu’un algorithme n’est pas exempt de biais. Et il se demande si cette chimère du prédictif, ne va pas se retourner en un outil de « légitimation par la science des inégalités sociales ».
(L’auteur ne le dit pas, mais je peux rajouter que si l’on a légitimement peur du système de « crédit social chinois » à vocation politique, il ne faut pas oublier que les États-Unis ont imposé en douceur un système de « crédit économique » !)
3— La société en mode autopilote
Dans cette gouvernance algorithmique, les outils sont conçus comme pouvant s’améliorer, donc se corriger seul, par le biais de boucles de rétroaction. « Avec l’essor des travaux en intelligence artificielle et machine-learning, on pense les systèmes comme auto correcteur, c’est à dire capable d’identifier les erreurs et les corriger sans intervention humaine ». Cette régulation algorithmique, cette société en « pilote automatique » est battue en brèche par Philippe Vion-Dury.
– D’abord parce que les recommandations sont très souvent dans une optique de dérégulation, « de destruction des régulations traditionnelles, gouvernementales ». C’est louche !
– Ensuite parce que cela impose une multiplication des capteurs à tous les niveaux (comme vu plus haut). Ainsi la ville de Songdo (en Corée du Sud), qui est la smart city la plus aboutie à ce jour, est aussi appelée Panopcity (en référence au panoptique de Bentham).
– Parce que cela rend compliqué, voire impossible, d’échapper à la règle.
– Enfin, parce que rien n’empêchera un groupe d’humain d’accroitre ou de prendre le contrôle des outils, et donc du reste de la population.
Suite de ma note de lecture :
– I : Une réalité intégralement personnalisée
– II : Les écosystèmes de manipulation
– III : La machine à gouverner
– IV : La société de contrôle intégral
Source image de Philippe Vion-Dury : Babelio
Bonne lecture !
Jérôme Bondu
