J’ai lu « Quand la machine apprend » de Yann Le Cun. L’intérêt de l’intelligence artificielle pour l’intelligence économique est évident. Et plusieurs articles de ce blog s’en sont déjà fait l’écho : « Peut-on veiller avec ChatGPT ? » « Comment va évoluer la veille avec ChatGPT ? » « Rechercher avec ChatGPT » « Recherche avec ChatGPT » « Table ronde Intelligence Artificielle et Intelligence économique » … D’où l’intérêt de se plonger dans l’écrit de ce spécialiste incontesté ! Yann Le Cun présente dans un premier temps des aspects techniques de l’intelligence artificielle. Puis aborde des questions passionnantes et stratégiques. Je reprends dans cette note quelques éléments saillants du livre.
Yann Le Cun
Yann Le Cun est lauréat du prix Turing. Il est un des acteurs à l’origine de la révolution de l’intelligence artificielle, grâce à sa contribution à l’apprentissage profond. Autrement appelé deep learning, cela caractérise un réseau de neurones artificiels dont l’architecture et le fonctionnement s’inspirent du cerveau. Yann est professeur à New York University et dirige la recherche fondamentale chez Facebook.
La première partie du livre est très technique
On y parle de la révolution des neurones artificiels et de l’apprentissage profond. Quand la machine apprend est un ouvrage qui aborde le sujet, dans un premier temps, avec une vision d’ingénieur. Certains passages sont costauds. Extrait : « La rétropropagation de gradient que nous allons décrire est la méthode efficace pour calculer le gradient d’une fonction de coût, c’est-à-dire la direction de la plus grande pente dans des réseaux composés de plusieurs couches de neurones. Le principe consiste à propager un signal à l’envers dans le réseau, mais au lieu de propager des cibles comme dans HLM, on propage des gradients, c’est-à-dire des dérivés partielles ». Bon évidemment, tout n’est pas comme cela. Je vous ai pris un extrait gratiné au niveau technique.
Pour ma part, j’ai lâchement sauté les passages trop ardus. Les parties qui parlent de sa carrière, de ses progrès et de l’impact de l’intelligence artificielle ont été à mes yeux les plus intéressants.
Mark Zuckerberg
Yann Le Cun présente positivement Mark Zuckerberg ! Évidemment, on ne dit pas de mal de son patron. Mais quand même, il explique que Mark est capable de plonger profondément dans la technique, de s’investir sur un sujet, avant de prendre des décisions. Visiblement Yann a été impressionné.
Difficultés des intelligences artificielles
Yann Le Cun n’édulcore en rien les blocages et faiblesses des intelligences artificielles. Dans le domaine de l’analyse de texte par exemple, il explique que l’IA a les plus grandes difficultés à détecter l’ironie ou la critique. Bernard Normier avait déjà bien détaillé ces problèmes en 2014 lors d’une conférence au Club IES. L’IA de Facebook ne peut pas faire la police des publications, comme quand il y a un appel à commettre des actions illégales. Yann Le Cun évoque par exemple le cas des appels à la vengeance contre les Rohingyas en Birmanie. Extrait « Etant donné les limites actuelles de l’IA, aucun système ne peut discerner aujourd’hui si l’information transmise est une fausse nouvelle ni déceler l’implicite de l’appel à la vengeance ». Il évoque plus loin les biais liés aux modèles de données (thème qu’à développé Aurélie JEAN dans son livre De l’autre côté de la machine).
Cambridge Analytica
Yann Le Cun parle brièvement de Cambridge Analytica. Il explique que Paul Grewal, directeur juridique, avait accusé un chercheur en psychologie, Aleksandr Kogan, d’être à l’origine de la fuite de données. Ce chercheur avait créé un jeu, Thisisyourdigitallife, et avait profité d’un problème de Facebook pour collecter des informations de millions d’utilisateurs. Extrait : « Mais il semble bien qu’il ait, en violation de son contrat, exploité ces données et transféré ses résultats à Cambridge Analytica ». On sent Yann Le Cun prudent sur le sujet.
Perspectives et défis
Loin du catastrophisme d’un Laurent Alexandre, Yann Le Cun remet les pendules à l’heure. Extrait : « Nous sommes incapables de concevoir et de construire des machines qui approchent la puissance du cerveau humain, avec ses 86 milliards de neurones et sa puissance consommée d’environ 25 watts. » Quand bien même nous pourrions construire une machine qui « mime » le cerveau humain avec des centaines de milliers de processus graphiques, cela consommerait au moins 25 mégawatts.
Technologie d’usage général
L’intelligence artificielle est une « Technologie d’usage général » qui va tout transformer, comme ce fut le cas pour la machine à vapeur, l’électricité ou l’informatique (lire Kai Fu Lee). Cependant, cela prendra un peu de temps. Yann Le Cun cite Erik Brynjolfsonn du MIT qui explique qu’il faut quinze à vingt ans pour que les travailleurs se saisissent d’une nouvelle technologie et que ses impacts se fassent réellement sentir dans tous les espaces de l’économie. Cela n’empêche pas que la France prenne dès maintenant les bonnes décisions. Yann Le Cun en notre trois :
- Faciliter la recherche fondamentale.
- Favoriser les laboratoires industriels.
- Promouvoir les start-ups.
Convergences
Yann Le Cun souligne les convergences entre le fonctionnement de l’intelligence artificielle et le fonctionnement du corps humain. « Les neurosciences de la vision inspirent les réseaux convolutifs, et les réseaux convolutifs éclairent, à leur tour, le fonctionnement du cortex visuel». Après tout, le cerveau est une machine biochimique.
Est-ce que l’intelligence artificielle va prendre le pouvoir
L’intelligence artificielle est « une merveilleuse exécutante » (lire Luc Julia). Mais à ce jour elle a moins de bon sens qu’un chat. « Sa connaissance et sa compréhension du monde sont extrêmement étroites, puisqu’elle n’est entrainée à n’accomplir qu’une seule tâche ».
« La crainte que nous avons d’un robot voulant prendre le pouvoir est une projection sur les machines des particularités de la nature humaine ». En fait nous associons « intelligence » avec « domination », car nous pensons que l’un va avec l’autre. C’est comme cela que nous nous sommes construit. Mais rien ne nous impose de programmer les machines avec nos « travers » sociaux.
L’intelligence artificielle aura tôt ou tard une conscience
Ceci dit, Yann Le Cun pense quand même que les machines auront dans le futur une conscience. Mais il se veut rassurant et rappelle que le silex est plus solide que nos dents, le cheval plus fort que nous, l’avion plus rapide que nos jambes. Chacune de nos inventions a eu pour but de dépasser nos limites. Et c’est bien pour cela d’ailleurs qu’elles ont été inventées. Mais nous les contrôlons quand même. Il en ira de même avec l’invention de l’intelligence artificielle, qui dépassera nos limites intellectuelles, et que nous saurons contrôler.
Le programme de Yann Le Cun est de travailler sur une « théorie de l’intelligence » ! Belle ambition !!
Mon avis sur le livre de Yann Le Cun
J’ai beaucoup aimé. Yann Le Cun a su au travers de son livre partager sa passion et sa vision. Personnellement, je n’ai pas peur d’un scénario type Hal dans 2001 l’odyssée de l’espace. Je ne crains pas qu’une intelligence artificielle prenne le pouvoir. Par contre, j’ai peur qu’une catégorie de personne prenne le pouvoir grâce à leur maitrise de l’intelligence artificielle. Ce qui est très différent. Et de ce risque, Yann Le Cun ne souffle pas un mot. C’est le seul bémol que je peux soulever. Dans tous les cas, c’est un livre à lire. Quand la machine apprend est édité chez Odile Jacob.
Bonne lecture !
Jérôme Bondu
