« La Guerre des intelligences à l’heure de ChatGPT » en 5 séquences ( merci à Françoise l’une de nos contributrices)

1. « Laurent Alexandre: «Avec l’IA, la marginalisation de l’espèce humaine est absolument inévitable» »

TITRE LE FIGARO (Par Jacques-Olivier Martin ) extrait :

IA, L’AUBE D’UN MONDE NOUVEAU (4/5) – Le développement de l’IA représente une menace de taille pour l’espèce humaine, analyse l’auteur de La Guerre des intelligences à l’heure de ChatGPT*. Il est urgent, explique-t-il, de réfléchir à ses conséquences politiques et aux moyens de cohabiter avec elle.

LE FIGARO. – L’arrivée de ChatGPT a relancé le débat sur l’intelligence artificielle générale : de quoi s’agit-il ?

Laurent ALEXANDRE. – Il existe deux types d’IA qui préoccupent les chercheurs. D’abord, l’intelligence artificielle générale, qui serait légèrement supérieure à l’homme dans tous les domaines cognitifs. Ensuite, la super-intelligence artificielle, l’ASI en anglais, qui pourrait être des milliers, voire des millions, de fois supérieure à la totalité des cerveaux sur ­terre.

Faut-il croire à son émergence ou s’agit-il en réalité d’un fantasme ?

Sam Altman, le patron de ChatGPT, a écrit le mois dernier qu’il est convaincu que la super-intelligence artificielle sera là avant 2030. Il n’y a pas de certitude que nous y parviendrons, mais je constate qu’il y a de plus en plus de chercheurs, une grande majorité, même, qui sont aujourd’hui convaincus que l’IA nous dépassera dans tous les domaines.

…/…

2. « Laurent Alexandre : « Si l’Europe sort de la course à l’IA, elle deviendra le Zimbabwe en 2080 »

TITRE L’EXPRESS ( Propos recueillis par Thomas Mahler ) EXTRAIT :

Pour l’auteur de « La Guerre des intelligences à l’heure de ChatGPT », l’essayiste Laurent Alexandre, chirurgien urologue, énarque et entrepreneur, l’IA va bouleverser une école devenue archaïque. Il donne ses conseils à la jeunesse.

Il y a six ans, Laurent Alexandre publiait La Guerre des intelligences, dans lequel il évoquait les perspectives vertigineuses de l’intelligence artificielle, notamment en matière d’éducation. Suite à l’irruption fulgurante de ChatGPT dans nos existences, le chirurgien et énarque s’est empressé d’en faire une mise à jour avec La Guerre des intelligences à l’heure de ChatGPT (JC Lattès). Pour L’Express, l’essayiste, persuadé que le clivage gauche-droite est déjà dépassé et que l’opposition entre bioconversateurs et transhumanistes va définir notre siècle, évoque le « brouillard numérique » dans lequel nous nous trouvons aujourd’hui. Même les pères fondateurs du « deep learning », Yann Le Cun, Geoffrey Hinton et Yoshua Bengio, lauréats du prix Turing, ne sont pas d’accord entre eux sur les conséquences de cette révolution technologique. Laurent Alexandre donne aussi ses conseils aux jeunes, et assure qu’ils vont connaître « une période extraordinaire », même s’il s’agira de réinventer un humanisme à l’ère des cerveaux augmentés. Entretien.

L’Express : Vous rappelez que depuis la fameuse conférence du Dartmouth College en 1956, l’histoire de l’IA a été faite d’enthousiasmes et d’inquiétudes, mais aussi de nombre de fantasmes et d’échecs. ChatGPT représente-t-il réellement une révolution ? En 1997, on nous avait déjà présenté la victoire de Deep Blue contre Kasparov comme un « tournant de l’histoire de l’humanité »…

Laurent Alexandre : Nous avons surestimé le potentiel de l’IA de 1956 à 2012 et sous-estimé depuis 2012. Et personne n’a anticipé les progrès foudroyants de ChatGPT depuis le 30 novembre dernier. L’accélération récente nous conduit à projeter sur l’IA beaucoup de fantasmes, ce qui rend difficile une réflexion lucide.

LIRE AUSSI >> Yuval Noah Harari : « L’intelligence artificielle menace la survie de la civilisation humaine »

Les trois inventeurs des réseaux de neurones profonds sont en désaccord sur les risques de ChatGPT. Yann Le Cun a affirmé le 12 avril 2023 sur France Inter que l’IA dépasserait avec certitude le cerveau humain mais qu’il ne faut pas en avoir peur. Geoffrey Hinton s’inquiète de notre capacité à contrôler l’IA et a déclaré qu’il n’est pas inconcevable qu’elle anéantisse l’humanité. Yoshua Bengio craint un risque majeur pour l’humanité et soutient l’interdiction des recherches sur GPT5.

Yoshua Bengio, comme d’autres personnalité, plaide pour un moratoire et un ralentissement de la course commerciale pour l’IA, la comparant au nucléaire. Est-ce réaliste ?

Il n’y aura pas de moratoire parce que laisser le leadership de l’IA à la Chine serait catastrophique. En 2100, nos enfants auraient mandarin en première langue et français en option langues …

…/…

3. « L’Intelligence artificielle, c’est un changement civilisationnel que l’on n’a pas vu arriver »

TITRE PARIS MATCH AVEC Romain Clergeat EXTRAIT :

Dans « La guerre des intelligences artificielles à l’heure de ChatGPT » (éd. JC Lattès), le chirurgien et écrivain Laurent Alexandre nous explique le changement de civilisation à venir.

L’arrivée de ChatGPT4 est un moment « Sputnik », mais pour qui ? Les États-Unis, l’Europe, la Chine, l’Humanité elle-même ?

Laurent Alexandre. Le magazine Foreign Policy pose cette question en Une et répond « c’est l’IA qui va gagner la course à l’IA ». Chat GPT 3 a surpris tout le monde, y compris Bill quand il a vu les premières démos, avant la version 3.5. Mais très vite, avec Chat GPT4, il a compris et dit que dans 18 mois nos enfants apprendraient à lire avec ses successeurs. Le moment Sputnik est pour tout le monde. Et pas géopolitique. C’est un changement civilisationnel que l’on n’a pas vu arriver. Dans mon domaine, celui de la médecine, je n’imaginais pas qu’une IA arriverait à lire en 15 secondes un dossier médical mal écrit et non structuré, avec de l’argot, des mots coupés et des fautes d’orthographe avant 2040-2045.

…/…

4. ET 5. DEUX EXTRAITS DE L’OUVRAGE DE LAURENT ALEXANDRE

avec Laurent Alexandre ATLANTICO

1. Révolution technologique de l’IA : serons-nous assez intelligents pour contrôler ChatGPT ?

Laurent Alexandre publie « La guerre des intelligences à l’heure de ChatGPT » aux éditions Jean-Claude Lattès. ChatGPT est à l’origine d’un tournant fondamental de notre Histoire. Son fondateur, Sam Altman, veut créer une Superintelligence Artificielle pour concurrencer nos cerveaux, au prix d’une dangereuse course mondiale. ChatGPT tombe au pire moment et nous ne sommes pas armés. Extrait 1/2.

Sous l’impulsion des grandes sociétés du Net, jetant les milliards par brassées pour progresser, nous sommes en train d’accomplir d’incroyables avancées en matière de compréhension du cerveau et de développement des technologies d’IA. Toutes les planètes économiques, technologiques et idéologiques sont alignées pour faire prospérer l’IA. Elle est en train de porter ses fruits sous nos yeux, diffusant dans les moindres interstices de notre vie ces machines qui « pensent » de plus en plus, à défaut encore de réfléchir. Le printemps de l’IA est bel et bien là, annonçant un été où l’humanité aura chaud…

Les géants du numérique font émerger des cerveaux industriels moins chers que ceux développés de façon « artisanale » par l’Éducation nationale. En outre, ces cerveaux biologiques évoluent peu alors que l’IA voit sa puissance sans cesse augmenter.

Certains experts comme Stéphane Mallard, l’auteur de Disruption, sont pessimistes : « Les humains sont très arrogants. Ils pensent tous détenir une expertise qui les rend uniques et irremplaçables. C’est cette expertise de façade chez les humains que ChatGPT attaquera directement. Les experts seront d’abord ringardisés, puis rendus obsolètes lorsqu’on se rendra compte que ChatGPT sera toujours meilleur, plus fiable, plus rapide, sans biais et même plus créatif dans tous les domaines. ChatGPT accélère la production de connaissances dans des proportions inouïes et nous montrera que la recherche faite par des humains n’était qu’une parenthèse laborieuse et inefficace de l’histoire. Les avocats et les juges seront assistés d’algorithmes dans toutes leurs décisions mais se rendront vite compte que laisser ChatGPT réfléchir sur la base du droit et de la logique, sans biais ni émotions, est infiniment plus puissant que de le laisser aux humains. L’art ne résistera pas à la vague : les artistes disparaîtront tant leurs œuvres paraîtront banales et insipides face à celles produites par ChatGPT lorsqu’il sera combiné à d’autres IA. En quelques années, l’arrogance humaine sera mise en échec par sa médiocrité face aux algorithmes. »

Cet enjeu essentiel pour l’humanité n’a jamais été évoqué au cours de la campagne présidentielle de 2022. Face aux machines, nous devons chercher à établir une complémentarité Homme-IA aussi équilibrée que possible. Il faut trouver les moyens de maîtriser l’IA, de trouver une sorte de modus vivendi avec un voisin envahissant qui devient une boîte noire.

Yuval Harari, Tristan Harris et Aza Raskin ont publié une tribune alarmiste le 24 mars 2023 dans le New York Times.

Les auteurs tiennent un discours profondément pessimiste : « Il est difficile pour notre esprit humain de saisir les nouvelles capacités de GPT4 et d’outils similaires, et il est encore plus difficile de saisir la vitesse exponentielle à laquelle ces outils développent des capacités encore plus avancées et puissantes. La nouvelle maîtrise du langage par l’IA signifie qu’elle peut désormais pirater et manipuler le système d’exploitation de la civilisation. En acquérant la maîtrise du langage, l’IA s’empare de la clé maîtresse de la civilisation, des coffres des banques aux saints sépulcres. Bientôt, nous nous retrouverons également à vivre à l’intérieur des hallucinations de l’intelligence non humaine.

The Matrix supposait que pour prendre le contrôle total de la société humaine, l’IA devrait d’abord prendre le contrôle physique de nos cerveaux et connecter nos cerveaux directement à un réseau informatique. En fait, simplement en acquérant la maîtrise du langage, l’IA aurait tout ce qu’il faut pour nous contenir dans un monde d’illusions de type Matrix, sans tirer sur personne ni implanter de puces dans nos cerveaux. […] L’IA pourrait inciter les humains à appuyer sur la gâchette, simplement en nous racontant la bonne histoire. »

Pour ne pas tomber sous la coupe d’un nouveau maître imprévisible, il nous faut dès maintenant profondément revoir l’éducation et la formation. Si l’IA est le problème, elle serait aussi en grande partie la solution. L’augmentation cérébrale ou l’interfaçage de notre intelligence avec l’IA s’imposeront comme une réponse incontournable au gigantesque défi posé par la concurrence des machines. À très court terme, c’est notre façon d’acquérir des connaissances, inchangée depuis des siècles, qui va devoir embrasser les nouvelles technologies pour gagner en efficacité et en rapidité.

Produire un cerveau humain prend un temps infini ! Entre la position du missionnaire et le MBA ou le doctorat du petit, il faut trente ans. Pour dupliquer une IA, un millième de seconde suffit. Puisqu’il faut 1 000 milliards de fois plus de temps pour produire un cerveau biologique qu’un cerveau de silicium, nous ne pouvons rester autonomes que si nous avons une stratégie remarquable.

Nous avons oublié de nous poser une question fondamentale : pouvons-nous maîtriser l’IA ? L’école est l’institution spécialement dédiée au développement et à la diffusion de l’intelligence. Saura-t-elle apporter une réponse positive à la question précédente ?

Face à ChatGPT, « l’état d’urgence éducatif » doit être déclaré

En 2023, il n’est pas encore trop tard pour se préparer au tsunami neuroéducatif. Le système éducatif n’a pas pris une seconde pour penser sérieusement à sa modernisation. Il reste bien peu de temps. Il est urgent d’entourer nos enfants, surtout les plus petits, de spécialistes de la transmission de connaissance. Cela impliquerait notamment de cesser de sous-payer nos enseignants : il n’est pas normal que ceux qui cultivent les cerveaux biologiques soient cent fois moins bien payés que les programmeurs qui nourrissent l’IA… Il n’est pas excessif de dire que nous sommes bien imprudents, voire masochistes, de laisser les QI les plus élevés de la planète éduquer les cerveaux de silicium, tandis que l’école des cerveaux humains est en jachère.

Au printemps 2023, ChatGPT est déjà plus intelligent que 46 % des Français

La menace de décrochage neuronal de notre population est au fond plus préoccupante que la menace terroriste. Un seul chiffre suffit à montrer cette urgence : 17 % des jeunes Français appartiennent à la catégorie NEET, c’est-à-dire qu’ils ne sont ni étudiants, ni en formation, ni employés… Autrement dit perdus dans une impasse totale et ne pouvant placer leurs espoirs que dans des allocations pour survivre. La situation française est d’autant plus dramatique que l’analyse économique montre que les mauvais scores aux enquêtes de type PISA sont fortement corrélés au chômage des jeunes, à de faibles gains de productivités et à des investissements insuffisants en Recherche et Développement. Autrement dit, la performance économique et sociale dépend directement de la qualité de notre système d’éducation et de formation. La révolution de l’Éducation nationale aura besoin de lever bien plus que le verrou des statuts et des crispations syndicales. C’est d’autant plus inquiétant que les capacités des IA s’envolent. Le QI de ChatGPT est passé de 83 pour la version 3.5 à 96 pour la version GPT4. Désormais ChatGPT est plus intelligent que 46 % des Français. Le QI de ChatGPT augmente de 3 points par mois. On frémit en pensant aux résultats de GPT5 ou GPT6 qui vont sortir dans les dix-huit prochains mois. L’éclosion de l’IA ne pouvait pas tomber à un plus mauvais moment. Elle se produit à une époque où l’homme européen est pris d’une profonde dépression. Il ne s’aime plus, ne croit plus en rien sauf en un illusoire salut régressif.

Extrait du livre de Laurent Alexandre, « La guerre des intelligences à l’heure de ChatGPT », publié aux éditions Jean-Claude Lattès

2. IA et libertés individuelles : pourra-t-on préserver notre cerveau face aux progrès de la science et de l’intelligence artificielle ?

Laurent Alexandre publie « La guerre des intelligences à l’heure de ChatGPT » aux éditions Jean-Claude Lattès. ChatGPT est à l’origine d’un tournant fondamental de notre Histoire. Son fondateur, Sam Altman, veut créer une Superintelligence Artificielle pour concurrencer nos cerveaux, au prix d’une dangereuse course mondiale. ChatGPT tombe au pire moment et nous ne sommes pas armés. Extrait 2/2.

EXTRAIT :

Les bouleversements économiques ne sont qu’un aspect presque mineur du basculement du monde. La vraie prise de pouvoir, on le sait, est celle des esprits. En ce domaine aussi le politique est en train de perdre pied. Les pauvres techniques de propagande mises au point par le marketing et les régimes totalitaires du xxe siècle vont faire pâle figure à côté des capacités de prise de contrôle de nos cerveaux.

La convergence de l’IA et des sciences du cerveau pose d’immenses questions. Comme l’explique le créateur d’AlphaGo, être expert en IA sans être spécialiste des neurosciences est bien difficile. L’interpénétration de l’IA avec nos cerveaux fait émerger une économie de la manipulation. Yael Eisenstat qui a travaillé pour la CIA puis pour Facebook admet : « Facebook vous connaît mieux que la CIA ne vous connaîtra jamais. Facebook en sait plus sur vous que vous ne vous connaissez vous-même. »

Cynthia Fleury ajoute : « Demain les sciences comportementales nous permettront de mieux comprendre la démocratie que la théorie politique ! »

Peut-on être libres quand l’IA perce facilement notre cerveau

Si l’IA peut nous manipuler avec notre accord, la liberté ne devient-elle pas un concept flou, comme le suggère le philosophe Gaspard Koenig ?

Nous rentrons dans un monde où il y aura de moins en moins de différences entre l’humain et la machine, l’online et l’offline, le virtuel et le physique. Échapper à la technologie deviendra aussi difficile que d’échapper à la gravitation terrestre.

Les dictatures du xxe siècle ont cassé beaucoup d’êtres humains mais ne les ont jamais rendus totalement transparents et n’ont jamais pu les manipuler. Nous rentrons dans l’univers de la gouvernementalité algorithmique.

L’IA permet aux géants du numérique, à leurs clients et aux services de renseignement, de comprendre, d’influencer et de manipuler nos cerveaux : cela remet en cause les notions de libre arbitre, de liberté, d’autonomie et d’identité, et ouvre la porte au totalitarisme neurotechnologique. Eric Schmidt, l’ancien président de Google, résume dans le Wall Street Journal l’économie de la manipulation cérébrale : « La plupart des gens ne souhaitent pas que Google réponde à leurs questions, ils veulent que Google leur dise quelle est la prochaine action qu’ils devraient faire. »

Les neurosciences associées à l’économie comportementale ont montré qu’il est possible de jouer sur l’inconscient des citoyens pour modifier leur comportement. Cela s’appelle le Nudge, qui signifie de pousser quelqu’un à faire quelque chose de son plein gré sans l’y forcer. Le Nudge utilise tous nos biais cognitifs pour nous manipuler pour notre bien. Ce paternalisme libéral est-il bien démocratique ?

Puisque nos comportements individuels sont intégralement déterminés par le jeu des processus biochimiques et des influences extérieures, notre Déclaration des droits de l’homme est bâtie sur du sable. Pour Harari : « Les individus s’habitueront à se voir comme un assemblage de mécanismes biochimiques constamment surveillé et guidé par un réseau d’algorithmes électroniques. Des habitudes du monde libéral comme les élections démocratiques deviendront obsolètes, puisque Google sera en mesure de mieux représenter mes opinions politiques que moi-même. » Nous entrons dans un monde magique où nos désirs seront anticipés par les IA qui peupleront nos appareils connectés.

Le monde numérique aggrave encore la situation. Harari décrit parfaitement comment l’Intelligence Artificielle nous pousse à déléguer au quotidien notre capacité de décision à la machine. Dans le monde de l’IA le flux des data nous installe confortablement dans notre silo personnalisé, qu’il s’agisse d’un itinéraire en voiture ou d’une discussion sur Facebook. Nous devenons les esclaves de notre propre bien-être. Un jour, nous laisserons l’IA décider de notre carrière et de nos amours. Nous tous prisonniers des algorithmes que nous aurons contribué à alimenter. Quelle nouvelle histoire l’humanité va-t-elle se raconter pour remplacer ses libertés perdues ? Il faut reconstruire et réenchanter l’individu menacé de toute part et trouver les moyens de mettre la technologie au service de la liberté.

La guerre économique se joue sur la conquête de nos comportements : notre cerveau est la nouvelle frontière. Gaspard Koenig s’est inquiété des conséquences du Nudgital, terme qui fusionne le Nudge et le mot capital. Julia Puaschunder, professeur de Sciences sociales à la George Washington University, en déduit une critique de l’économie comportementale à l’ère de l’IA : si le comportement de l’individu est prévisible alors il est aussi manipulable. Plus nous partageons l’information et plus nous émettons de données, plus nous fournissons des données aux plateformes et plus nous nous prêtons en retour au Nudge. Plus nous acceptons le Nudge et plus nous gagnons en bien-être. Google par exemple nous épargne un effort cognitif gigantesque. Mais la puissance de ChatGPT fait entrevoir les nouveaux risques de « Police de la pensée ». 

Extrait du livre de Laurent Alexandre, « La guerre des intelligences à l’heure de ChatGPT », publié aux éditions Jean-Claude Lattès