J’ai lu « Nexus » de Yuval Noah Harari. Le livre est passionnant et rappelle évidemment à maints égards Sapiens que j’avais trouvé extrêmement riche. J’avais moins aimé Homo deus, et 21 leçons pour le 21è siècle. Et j’avais encore moins aimé les BD.Mais on retrouve avec Nexus la vision de Harari.
Voici une synthèse, personnelle, parcellaire, écrite de mémoire alors que je viens de finir le livre. Cette note de lecture ne reflète pas mes idées, et encore moins celles des structures avec lesquelles je travaille, mais les idées de l’auteur.
Révolutions informationnelles
Le monde a connu cinq grandes révolutions informationnelles : langage, écrit, impression, électrification des outils de communication, et enfin numérique. Chaque révolution a eu des impacts positifs et négatifs. Leur étude historique nous permet d’entrevoir ce qui pourra advenir avec la révolution numérique (et notamment avec son avatar qu’est l’intelligence artificielle). Et nous permet de détecter des points de vigilance. Harari s’appuie donc sur de nombreux exemples historiques. Et en tire des réflexions sur l’impact de l’intelligence artificielle.
Figer notre vision du monde
Harari traite largement de la construction de la Bible. Lors de la création du canon biblique, le choix des textes a façonné la pensée chrétienne pour les siècles à venir. Par exemple le choix d’inclure la Première Épitre à Timothée, et d’exclure les Actes de Paul et Thècles beaucoup moins misogynes a orienté la pensée chrétienne vers un dénigrement du rôle des femmes. Et comme il n’y avait pas d’outil d’autocorrection de la Bible, la pensée envers les femmes s’est retrouvée figée de manière négative.
–> Cette analyse de la construction de la Bible peut être mise en parallèle avec la construction des outils d’intelligence artificielle générative. Tout comme la constitution de la Bible a figé le rôle de la femme, la constitution des IA, via les données d’entrainement, risque figer notre vision du monde.
Géants de la tech
Autre exemple : la chasse aux sorcières. Cet événement funeste de l’histoire de l’Europe a été « permis / accéléré » par l’invention de l’impression. En effet … Henrich Kramer était très certainement un psychopathe au dernier degré. Il a été initialement écarté par l’Église. Mais la rédaction de son livre, Malleus Maleficarum (le marteau des sorcières) et son succès incroyable a donné à ses idées une notoriété immense. Et cela a certainement contribué aux persécutions qui vont suivre.
–> Une révolution informationnelle n’est pas bonne en « valeur absolue ». Tout dépend comment elle est gérée. Et tout dépend des mécanismes de contrôle que nous pouvons avoir sur elle. Dans le cadre de l’intelligence artificielle, le contrôle démocratique est nul ! Tout est entre les mains des géants de la tech qui développent les IA. Harari cite d’ailleurs Shoshana Zuboff.
Les constructeurs d’IA ne sont pas des Sages
Autre exemple : L’influence de Facebook sur les massacres des Rohingyas en Birmanie est avérée. Ces grandes sociétés de la tech ne se soucient pas du Bien commun, mais de leurs profits. Les discours de haine sont plus viraux que les discours d’apaisement, la viralité créée de l’engagement, l’engagement du profit ! CQFD.
–> Conclusion : il ne faut pas attendre de la sagesse des entreprises qui créent les intelligences artificielles.
L’ascension d’Hitler, comme l’appel au massacre des Tutsis au Rwanda, doit beaucoup à la radio. L’augmentation du volume d’informations en circulation ne crée pas plus de vérité ni de sagesse. Mais plus de pouvoir pour ceux qui en maitrisent les canaux de diffusion. L’invention d’une nouvelle technologie de l’information est toujours un catalyseur des changements en cours.
–> Le développement de l’intelligence artificielle est le catalyseur de la domination américaine, et de la montée en puissance de la Chine !
La dimension totalitaire des IA
Les dictatures ont cherché à centraliser les informations. Nazisme et Stalinisme ont créé des outils de remontée et de concentration des données. Mais cette concentration a eu pour limite la capacité de traitement des « humains » qui géraient les fiches, documents, notes, renseignements et autres papiers. A contrario, le modèle démocratique a permis un traitement en mode distribué des informations.
–> L’intelligence artificielle a le pouvoir de concentrer et gérer un immense volume d’informations, et de pouvoir les analyser. Elle n’a pas de limite « humaine ». Elle pourrait ainsi donner à un dictateur le pouvoir qu’auraient rêvé d’avoir un Hitler ou un Staline.
Un livre sacré peut être vu comme l’expression d’une forme de vérité (pour le croyant). Mais le problème réside de l’interprétation que l’on peut faire du texte. La hiérarchie catholique est un exemple de réponse face à ce problème. Les membres du clergé ont la capacité d’interprétation. Mais cela n’a pas empêché, bien au contraire, les schismes liés à des interprétations différentes.
–> Avec l’intelligence artificielle, nous aurons en même temps et texte et la manière de l’interpréter. D’où la force de cette technologie qui pourrait avoir une dimension totalitaire, complète.
Plan du livre
Et pour finir, je place en bonus le plan du livre (ça, par contre, c’est du copier-coller) :
Prologue
Première partie – Réseaux humains
1. Qu’est-ce que l’information
2. Histoires : connexions illimitées
3. Documents : la morsure des tigres de papier
4. Erreurs : le fantasme de l’infaillibilité
5. Décisions : une brève histoire de la démocratie et du totalitarisme
Deuxième partie – Le réseau inorganique
6. Les nouveaux membres : en quoi les ordinateurs sont différents des presses à imprimer
7. Implacable : le réseau est toujours actif
8. Faillible : le réseau a souvent tort
Troisième partie : politique informatique
9. Démocraties : une conversation impossible ?
10. Totalitarisme : le pouvoir aux algorithmes ?
11. Le rideau de silicium : empire mondial ou division mondiale ?
Épilogue
Nexus » de Yuval Noah Harari est à lire. Le livre est édité chez Albin Michel. Voir aussi le livre sur le site de Harari.
Jérôme Bondu
