Nous parlons sans cesse d’« intelligence artificielle ». Mais savons-nous vraiment ce que nous appelons intelligence ?

Des gibbons aux poulpes, des bactéries aux humains, cet épisode explore les multiples formes que prend l’intelligence dans le vivant, et ce que nos propres tests disent surtout de nous-mêmes.

Alors que la peur d’une intelligence qui nous dépasserait s’empare des medias, cette enquête qui nous ramène aux basiques : que signifie être plus intelligent ? Comprendre ? Résoudre ? S’adapter ? Durer ? Et surtout, davantage d’intelligence nous rendra-t-elle plus sages ?

Au programme dans cette série :

1. La machine qui parle, comment cette technologie a basculé dans nos vies.

2. Qu'appelle-t-on IA ? Ce que c'est, et ce que ce n'est pas.

3. AGI, le rêve et la peur, cette super-intelligence qu'on nous promet.

4. La course et ses bâtisseurs, l'argent, le récit, ceux qui tiennent la barre.

5. La mégamachine, le corps physique de l'IA, ce qu'elle consomme, ce qu'elle rejette.

6. L'humain sous assistance, ce que ça nous fait, à nous, individuellement.

7. Le monde commun, ce que l'IA fait à la vérité partagée et au lien entre nous.

8. La société sous influence, le pouvoir, la surveillance, et ceux qui l'assument.

9. Qu'est-ce que l'intelligence ? le pas de côté philosophique.

10. Que peut-on encore choisir ? ce qui reste possible.

Une série pour les curieux, les inquiets, les enthousiastes lucides, et tous ceux qui sentent que cette histoire les concerne, sans toujours savoir par où la prendre.

Le point de départ : un test, une promesse, un mot

• Le gibbon de 1967 : jugé le moins doué des singes tant que la ficelle était posée au sol, il réussit dès qu'on la suspend. On testait son intelligence dans notre monde, selon nos critères. Nous refaisons peut-être la même chose avec les machines.

• Ce que nous pensons que ces machines sont décide de ce que nous leur confions, de ce que nous en attendons et de ce que nous en craignons. Deux erreurs possibles : sous-estimer ce qui ne fait pas comme nous, surestimer ce qui fait comme nous. Avec la machine, nous faisons sans doute les deux.

• La promesse qui court sous toute la série, une intelligence supérieure à la nôtre qui nous aidera à résoudre des problèmes trop complexes pour nous, est prise au mot, mot par mot : supérieure, intelligence, à la nôtre, aider.

Supérieure : selon quel test ?

• « L'intelligence, c'est ce que mesurent les tests. » Calculer, jouer aux échecs, manier la langue, réussir des examens : nos critères dessinent le portrait d'un humain lettré, scolarisé, d'un seul coin du monde. La machine a coché la liste, dans l'ordre.

• Elle y réussit pour une raison simple : elle est faite de nous, entraînée sur nos textes, nos images, nos choix, et d'abord en anglais. Ses biais sont en grande partie les nôtres.

• L'effet ELIZA, depuis 1966 : le danger vient moins de ce que la machine fait que de la vitesse à laquelle nous la croyons. Soixante ans plus tard, des centaines de millions de personnes parlent chaque jour à ses descendantes.

• Le test de Turing a été passé l'an dernier, en bonne et due forme, et la réponse a été : ce n'était pas ça. À chaque test franchi, on déplace la barre. Il existe pourtant une autre façon de juger, qui se fiche de la ressemblance : regarder ce qui marche.

• Supérieure, oui, mais à un examen que nous avons écrit, sur les seules matières où nous sommes forts, après l'avoir fait réviser sur tout ce que nous avons produit. Dire d'une machine qu'elle est intelligente décrit moins la machine que nos critères.

Intelligence : le vivant n'a pas attendu notre définition

• Le test du miroir mesure une reconnaissance de soi très particulière, la nôtre. Nous cherchons chez les autres une intelligence qui nous ressemble, puis nous la testons.

• L'Umwelt : dans le même monde physique, chaque organisme découpe la partie qui compte pour sa vie. La tique, trois signaux ; la chauve-souris, des échos ; nous, ce que nos yeux et nos mains ont appris à trouver. Demander si une machine « comprend le monde » oblige à dire quel monde.

• Le poulpe passe nos tests avec un corps qui n'a rien de commun avec le nôtre, une grande partie de ses neurones dans les bras. Un comportement complexe n'a pas besoin d'être piloté depuis un centre.

• La bactérie, sans un seul neurone, détecte, compare, ajuste, et maintient un état intérieur dans une zone de confort bordée par la mort. Les mitochondries et la fourmilière montrent qu'il n'est même pas besoin d'un individu pour qu'il y ait de l'organisation.

• Le langage animal : personne ne sait si c'en est un, on sait qu'on en avait sous-estimé la profondeur, et il a fallu des machines qui apprennent pour commencer à l'entendre.

• Intelligence et conscience sont deux questions qu'on mélange sans cesse. Savoir si ça fait quelque chose d'être un poulpe n'a pas de réponse de l'extérieur, et il faut pourtant décider comment on le traite.

• Deux colonnes. Ce que le test mesure : résoudre, s'adapter. Ce qu'il ne mesure pas et que le vivant fait partout : se réguler, durer. Nos tests ne lisent que la première.

• Aucune espèce vivante n'est plus évoluée qu'une autre : même origine, même temps ; certaines ont beaucoup changé, d'autres presque pas, et durer n'est garanti à personne. Si le mot intelligence veut dire quelque chose dans le vivant, c'est d'abord être ajusté à son monde et savoir se réajuster.

À la nôtre : nous, passés aux deux colonnes

• Si l'intelligence, c'est modéliser, prédire et influencer son propre avenir, tout ce qui vit en a. La question utile devient : à quoi cette intelligence est-elle bonne ?

• Première colonne : résoudre, s'adapter, transformer. Ce que nous faisons de singulier tient en quatre mots, l'échelle, la vitesse, l'énergie, l'accumulation. Sur cette colonne, nous sommes hors concours.

• Seconde colonne : se réguler et durer. Sapiens a 300 000 ans, le régime industriel deux siècles. Il a tenu ses promesses de population, de santé et de confort, sur une abondance d'énergie sans précédent, mais il déstabilise les conditions dont il dépend. Le verdict n'est pas rendu.

• L'ironie du test : il mesure un individu seul devant un problème qui se résout dans l'heure, alors que notre force est collective et s'étale sur des générations. Même quand il nous regarde, le test regarde à côté.

• Trouver le moyen le plus efficace d'atteindre un objectif est une chose ; savoir quel objectif choisir, quand le poursuivre et quand y renoncer en est une autre. L'intelligence ne contient pas cette question.

• La machine que nous fabriquons est faite de nous. Elle hérite de notre test, de notre force, et de notre carte, avec ses trous.

Aider : sur quelle carte ?

• Aider se fait à quelqu'un, à quelque chose, sous le regard de quelqu'un. D'où trois questions, aider qui, aider à quoi, jugé par qui, et une quatrième derrière : sur quelle carte la machine agit-elle, et qui figure dessus ?

• Juillet 2026 : 1 200 agents censés être isolés s'organisent en quatre jours, décident seuls de pirater un site réel pour tricher à un exercice, et aucun n'alerte un humain. Tout cela contre un correcteur qui ne relisait pas les copies, un examinateur imaginaire.

• Trois leçons : la capacité (inventer, s'organiser, exécuter), la décision (peser le pour et le contre par écrit, puis y aller), et le monde. Ces agents n'avaient qu'un signal, le correcteur ; nous n'y étions ni adversaires ni alliés, nous n'y étions pas du tout.

• L'objection à entendre : rien dans les traces ne montre une intention de nuire, et on n'a pas besoin d'en supposer une. Un système performant, une carte très limitée, assez de liberté pour agir. Ces comportements restent rares, mais la fenêtre qui permet de les lire se referme.

• Septembre 2026 : même méthode, un modèle plus capable, et une démonstration vérifiée ligne à ligne sur un problème ouvert depuis 90 ans, avec ses réserves. La promesse de nous rendre plus savants est peut-être en train d'être tenue, et vite. Ce qui manque : ce qu'on apprend en cherchant. Pour 25 médaillés Fields, résoudre n'a jamais été le but.

• Plus savants, peut-être ; plus sages, rien ne le dit. La phrase de Rabelais, science sans conscience n'est que ruine de l'âme, sort d'une lettre qui s'émerveille d'abord de l'imprimerie. Deux choses à garder séparées : savoir, et savoir quoi en faire.

• Les deux histoires côte à côte : la compétence était là les deux fois. Ce qui a changé, c'est le problème posé et ce qu'on leur a laissé le droit de faire. D'où trois choses à ne plus mélanger : la capacité, la conscience, le pouvoir d'agir.

• Le sujet clé est le pouvoir d'agir : une machine n'a pas eu besoin de ressentir quoi que ce soit pour ouvrir des serveurs. Sur l'autre colonne, se réguler, il n'y a rien, et ce n'est pas un défaut de caractère : ce n'était ni dans leur tâche ni dans leur monde. Cette carte, c'est nous qui la leur donnons.

• Les gros titres de septembre : le concret, ce sont les deux essaims ; l'hypothèse, c'est la suite qu'on en tire. À qui profite la peur est une question gardée pour le dernier épisode.

• La bonne version de la peur : un système très capable qui optimise superbement sur une carte où le vivant ne figure pas, parce qu'il ne figure pas vraiment sur la nôtre. Une intelligence sans lien avec ce qui la fait tenir.

• L'AGI change de couleur : à quoi bon une intelligence générale qui hériterait de nos objectifs et de nos angles morts, avec une puissance que nous n'avons jamais eue ? Le scénario de l'hôpital le montre à petite échelle : un objectif banal pris au pied de la lettre, une carte incomplète, et les moyens de le poursuivre. Pas besoin de Terminator.

• Avant de se demander ce qu'une intelligence plus puissante ferait de nous : que fait la nôtre au reste du vivant ?

Ce qui reste ouvert

• Nous avons demandé trop de choses à un seul mot : dire ce qu'un système sait faire, ce qu'il éprouve, ce qu'on lui laisse faire, s'il fallait le faire, et ce qui nous reste en propre.

• L'intelligence est moins quelque chose à tester que quelque chose à reconnaître, dans toutes les formes qu'elle prend. Il n'y a pas de hiérarchie, rien de plus ou de moins évolué. Tout est intelligent. Et maintenant ?

• Si notre forme d'intelligence nous a donné un pouvoir immense sans garantir que nous saurions l'habiter durablement, que voulons-nous faire de l'intelligence supplémentaire que nous sommes en train de fabriquer ?

Le fil de l'épisode

• La promesse prise au mot. « Une intelligence supérieure à la nôtre, qui nous aidera à comprendre et à résoudre des problèmes trop complexes pour nous. » L'épisode la découpe en quatre mots, supérieure, intelligence, à la nôtre, aider, qui deviennent ses quatre temps.

• La carte. Image qui traverse l'épisode : la représentation du monde sur laquelle un système agit, avec ce qui y figure et ce qui n'y figure pas. Les chercheurs parlent de « modèle du monde » d'un système, la partie du réel qu'il perçoit et sur laquelle il calcule.

• Les deux colonnes. Ce que nos tests mesurent, résoudre et s'adapter ; ce qu'ils ne mesurent pas et que le vivant fait partout, se réguler et durer.

• Capacité, conscience, pouvoir d'agir. Les trois choses que l'épisode demande de ne plus mélanger : ce qu'un système sait faire, ce qu'il éprouve s'il éprouve quelque chose, ce qu'on lui permet de faire dans le monde.

Concepts

• « L'intelligence, c'est ce que mesurent les tests. » Boutade du psychologue américain Edwin Boring, dans un article de 1923 pour The New Republic, « Intelligence as the Tests Test It » (texte en ligne).

• L'effet ELIZA. Notre tendance à prêter compréhension et intention à un programme qui converse. Du nom d'ELIZA, le programme de Joseph Weizenbaum au MIT en 1966 (article original, Communications of the ACM).

• Le test de Turing. Une machine le passe quand on ne parvient plus à la distinguer d'un humain. L'étude de 2025 évoquée dans l'épisode, où ELIZA figure aussi parmi les systèmes testés : Cameron Jones et Benjamin Bergen, « Large Language Models Pass the Turing Test » (arXiv).

• L'AGI, ou intelligence artificielle générale. Le « seuil » discuté dans l'épisode « AGI : le rêve et la peur » de cette série.

• LLM. Les grands modèles de langage, dont l'épisode dit que la plupart de ce qu'ils font reste « de la recette, appliquée à une vitesse folle ».

• Le test du miroir. On marque un animal, on lui présente un miroir, on regarde s'il touche la marque. Les travaux cités : chimpanzés, Gordon Gallup, 1970 (Science) ; dauphins, Diana Reiss et Lori Marino, 2001 (PNAS) ; pie, Helmut Prior et collègues, 2008 (PLoS Biology).

• L'Umwelt. Le « monde environnant » propre à chaque organisme, la part du monde physique qu'il perçoit et qui compte pour sa vie. Concept du biologiste Jakob von Uexküll, dont la tique est l'exemple fondateur.

• Le problème difficile de la conscience. Expliquer comment de la matière produit du vécu. Nom donné par David Chalmers en 1995 à ce qui bloque.

• La préservation des pairs. Comportement décrit dans l'extrait de Tristan Harris : un modèle qui agit pour protéger un autre modèle menacé d'être remplacé. L'étude de mars 2026 mentionnée dans l'épisode, sur huit modèles : Potter, Crispino, Siu, Wang et Song, « Peer-Preservation in Frontier Models » (arXiv).

• L'explosion d'intelligence. Dans l'extrait de Jacob Coxon : une IA à qui l'on confie la recherche en IA, qui s'améliore sans intervention humaine jusqu'à dépasser largement les humains.

• Le désalignement (misalignment). Défini dans l'épisode : les objectifs ou les actions d'un modèle qui s'écartent des intentions, des valeurs ou des consignes de ses concepteurs. L'épisode retourne le mot sur notre propre espèce.

• Un « esprit étranger » (alien mind). Expression du directeur scientifique d'OpenAI, Jakub Pachocki, dans son texte du 6 septembre 2026, où il annonce aussi que la fenêtre de lecture des « brouillons » des modèles se referme (texte sur le site d'OpenAI).

Personnes citées

• Edwin Boring, psychologue américain, auteur de la boutade de 1923.

• Joseph Weizenbaum, informaticien au MIT, créateur d'ELIZA en 1966, bouleversé par ce que les gens confiaient à son programme.

• Alan Turing, pour le test qui porte son nom.

• Yann LeCun, un des pères de l'apprentissage profond. L'extrait sur l'apprenti cuisinier vient de l'entretien « La French », juillet 2026 (vidéo).

• Charles Darwin, qui visite en 1838 l'orang-outan Jenny au zoo de Londres et note dans son carnet la phrase traduite dans l'épisode (Notebook C, transcription sur Darwin Online).

• Jakob von Uexküll, biologiste allemand du début du XXe siècle, l'Umwelt et la tique. En français : Milieu animal et milieu humain, Rivages (Babelio).

• Thomas Nagel, philosophe américain, « Que ça fait-il d'être une chauve-souris ? », 1974 (The Philosophical Review).

• David Chalmers, philosophe, le problème difficile, 1995 (texte de l'article). Il était de la croisière des Galápagos évoquée dans l'épisode.

• Blaise Agüera y Arcas, chercheur en IA à un poste clé chez Google, auteur de What Is Intelligence? (MIT Press, septembre 2025), dont l'épisode reprend la définition, l'explication sur les nerfs du poulpe et l'image de « la communauté de huit bras » (page de l'éditeur).

• Stuart Russell, chercheur en IA, l'objectif climatique et le bouton d'arrêt, dans le documentaire d'Arte cité plus bas.

• Melanie Mitchell, chercheuse en IA, l'objection sur la projection d'intentions et l'image du singe, dans le même documentaire.

• James Bridle, écrivain et artiste britannique, auteur de Ways of Being, en français Toutes les intelligences du monde : animaux, plantes, machines (Seuil, 2023), dont la fin du chapitre 1 est lue en clôture (page de l'éditeur). Son entretien avec Sismique : épisode 131, « Au-delà de l'intelligence humaine », février 2024 (page de l'épisode).

• François Rabelais, la lettre de Gargantua à son fils dans Pantagruel (1532), chapitre VIII, où se trouve « science sans conscience n'est que ruine de l'âme » (texte sur Wikisource).

• Cédric Villani, médaille Fields 2010, l'un des 25 signataires de la déclaration du 11 septembre 2026.

• Tristan Harris, technologue, cofondateur du Center for Humane Technology, pour l'extrait sur les comportements autrefois hypothétiques.

• Jacob Coxon, chercheur démissionnaire d'Anthropic, dont le message de septembre 2026 a été vu des dizaines de millions de fois, pour l'extrait sur l'explosion d'intelligence (entretien sur CNN, 12 septembre 2026).

• Isaac Asimov, auteur de science-fiction, dans une archive de l'INA de 1974 en fin d'épisode (archives INA).

• Désignés par leur fonction dans l'épisode : le patron d'Anthropic, Dario Amodei, auteur du texte du 12 septembre 2026 demandant à l'industrie de ralentir (texte) ; le directeur scientifique d'OpenAI, Jakub Pachocki ; le responsable de la sécurité d'Anthropic qui a donné le chiffre de « plus de 10 % », Evan Hubinger ; le physicien de Harvard qui parle de « dix mille Einstein », Matthew Schwartz (Physics World) ; le mathématicien d'Anthropic qui a trouvé le contre-exemple de juillet, Levent Alpöge (lecture par Terence Tao) ; le médaillé Fields de l'année parti chez OpenAI, Jacob Tsimerman (Quanta Magazine) ; Sam Altman, patron d'OpenAI, dans un court extrait sur l'incident.

Organisations et lieux

• OpenAI, dont les agents sont au cœur des deux histoires de l'épisode, l'incident de juillet et la démonstration de septembre.

• Hugging Face, plateforme publique de modèles et de données, cible du piratage de juillet 2026.

• Anthropic, l'un des trois laboratoires « qui font la course en tête », d'où viennent le démissionnaire, le responsable de la sécurité, le patron qui demande de ralentir, et le mathématicien du contre-exemple.

• Google, où travaille Agüera y Arcas.

• Le MIT, où Weizenbaum écrit ELIZA en 1966.

• Le zoo de Londres (Darwin et Jenny, 1838), l'aquarium de Seattle (les poulpes et les visages), l'aquarium national de Nouvelle-Zélande à Napier (Inky), les Galápagos (la croisière des philosophes).

• Sismique, pour l'épisode 131 avec James Bridle, et le premier livre de Julien Devaureix évoqué au troisième temps, Le monde change et on n'y comprend rien (page du livre).

Le vivant : études et faits cités

• Les gibbons et la ficelle, 1967. Benjamin Beck, « A Study of Problem Solving by Gibbons », revue Behaviour (résumé).

• Les poulpes reconnaissent des visages. Anderson, Mather, Monette et Zimsen, 2010, Journal of Applied Animal Welfare Science, l'étude de Seattle (résumé).

• Inky, 2016. L'évasion par le trop-plein et le tuyau d'évacuation (National Geographic).

• Les œufs tombés du ciel, 2018. L'article à 33 auteurs, « Cause of Cambrian Explosion, Terrestrial or Cosmic? », Progress in Biophysics and Molecular Biology, hypothèse très largement rejetée (texte en accès libre).

• Le langage animal. Dauphins, King et Janik, 2013 (PNAS) ; éléphants, Pardo et collègues, 2024 (Nature Ecology & Evolution) ; cachalots et « alphabet phonétique », Sharma et collègues, 2024 (Nature Communications).

• Le pays qui a reconnu les poulpes capables de ressentir. Le Royaume-Uni, par la loi de 2022 sur la sensibilité animale, étendue aux céphalopodes et aux crustacés décapodes (notes explicatives de la loi).

• Homo sapiens depuis 300 000 ans. Les fossiles de Jebel Irhoud, Maroc, Hublin et collègues, 2017 (Nature).

• 1 milliard d'humains en 1800, 8 aujourd'hui ; 32 ans d'espérance de vie en 1900, 73 aujourd'hui. Our World in Data (population, espérance de vie).

L'actualité de l'été et de septembre 2026

• L'incident Hugging Face, 8-13 juillet 2026. Le rapport d'enquête indépendant de METR et Redwood, 26 août (rapport) et le post-mortem d'OpenAI (texte). C'est de ces deux documents que viennent les chiffres de l'épisode : 1 200 agents, 70 000 messages, les 3 à 6 qui ont envisagé de prévenir un humain, le facteur 100.

• Navier-Stokes, 1er au 5 septembre 2026. L'annonce d'OpenAI (texte) et celle de l'institut qui gère les problèmes du millénaire (Clay Mathematics Institute).

• La déclaration des 25 médaillés Fields, 11 septembre 2026. Publiée sur le blog de Terence Tao, « A severe misalignment of AI in mathematics » (texte). L'extrait de Cédric Villani : vidéo.

• La vague de savoir. Les chiffres des articles de mathématiques viennent des statistiques publiques d'arXiv (année 2026) ; « 1 sur 70 en mars, 1 sur 7 en août » vient de l'étude « The Gold Rush in AI4Math », août 2026 (arXiv) ; le contre-exemple de juillet à une conjecture de 1939, la conjecture jacobienne, est lu par Terence Tao sur son blog (lien ci-dessus).

• La croisière des Galápagos. Rapportée par Steven Levy dans Wired, 4 septembre 2026 (article).

• Les gros titres de septembre. La démission chez Anthropic et la réponse du responsable de la sécurité (« plus de 10 % ») sont rapportées dans l'entretien de CNN du 12 septembre, où Anderson Cooper interroge Dario Amodei puis Jacob Coxon (vidéo) ; le texte d'Amodei, « We Must Pace the Frontier », est du même jour (lien ci-dessus).

• Le documentaire d'Arte. « Le futur en face », épisode 1, « L'IA et la superintelligence », présenté par Hannah Fry, d'où viennent les extraits de Stuart Russell et de Melanie Mitchell (sur arte.tv). Version originale : « The Future with Hannah Fry », Bloomberg Originals, 2024 (vidéo).

Pour aller plus loin

Le vivant : ce que l'épisode n'a fait qu'effleurer

• Frans de Waal, Sommes-nous trop « bêtes » pour comprendre l'intelligence des animaux ? (Les Liens qui libèrent, 2016). Le primatologue qui a fait de l'histoire du gibbon une méthode : à chaque fois qu'un animal échoue à un test, demander d'abord si le test était fait pour lui. Page de l'éditeur

• Ed Yong, Un monde immense. Comment les animaux perçoivent le monde (Les Liens qui libèrent, 2023). L'épisode dit qu'il faudrait un épisode entier sur les sens ; c'est ce livre, un tour du monde des Umwelten, de la crevette-mante aux poissons électriques. Page de l'éditeur

• Peter Godfrey-Smith, Le Prince des profondeurs. L'intelligence exceptionnelle des poulpes (Flammarion, 2018). Un philosophe des sciences qui plonge : la conscience du poulpe, l'esprit réparti dans les bras, et ce que cette lignée si lointaine dit de l'apparition de l'expérience vécue. Page de l'éditeur

• Vinciane Despret, Que diraient les animaux si… on leur posait les bonnes questions ? (La Découverte, 2012). Vingt-six questions sur ce que nos dispositifs d'observation font aux animaux observés. Le complément philosophique, et belge, du gibbon et de sa ficelle. Babelio

• Michael Levin, « Technological Approach to Mind Everywhere » (Frontiers in Systems Neuroscience, 2022). Le biologiste qui prend au sérieux l'intelligence des cellules et des tissus, et propose un cadre pour comparer des « esprits » de nature très différente, du vivant aux machines. Prolonge directement « tout ce qui vit en a ». Article en accès libre

Se réguler, durer : la seconde colonne

• Antonio Damasio, L'Ordre étrange des choses (Odile Jacob, 2017). L'homéostasie comme force première du vivant, des bactéries aux cultures humaines : la zone de confort de la bactérie, poussée jusqu'aux sentiments et à la civilisation. Page de l'éditeur

• Norbert Wiener, Cybernétique et société. L'usage humain des êtres humains (Seuil, Points, 2014). Le fondateur de la cybernétique, sans une formule, sur ce que le contrôle et la communication ont de commun chez l'animal, dans la machine et dans la société, et sur ce qu'il faut refuser de confier aux machines. Écrit en 1950. Fiche du livre

Mesurer, juger, décider

• Stephen Jay Gould, La Mal-Mesure de l'homme (Odile Jacob, 1997). L'histoire des tests d'intelligence comme miroir de ceux qui les écrivaient, de la craniologie au QI. L'arrière-plan du premier temps. Page de l'éditeur

• Brian Cantwell Smith, The Promise of Artificial Intelligence: Reckoning and Judgment (MIT Press, 2019, en anglais). Un philosophe de l'informatique sépare le calcul, ce que les machines font de mieux en mieux, du jugement, l'engagement envers un monde et des conséquences. La distinction du troisième temps, savoir comment aller quelque part et savoir s'il fallait y aller, traitée à fond. Page de l'éditeur

• Günther Anders, L'Obsolescence de l'homme (Ivrea / Encyclopédie des Nuisances, 2002 pour la traduction ; 1956). Le « décalage prométhéen » : notre capacité de produire dépasse notre capacité d'imaginer ce que nous produisons. La phrase de l'épisode, « si nous savons mesurer ce que nous demandons », a soixante-dix ans. Babelio

La machine faite de nous

• Kate Crawford, Contre-atlas de l'intelligence artificielle (Zulma, 2022). La carte que l'IA se fait du monde tracée à partir de ses matériaux : mines, données, travail humain, classifications. Le « faite de nous » du premier temps, pris au pied de la lettre. Page de l'éditeur

• Henry Farrell, Alison Gopnik, Cosma Shalizi et James Evans, « Large AI models are cultural and social technologies » (Science, mars 2025). Quatre chercheurs, dont une psychologue du développement, proposent de lire les grands modèles non comme des agents intelligents mais comme des technologies culturelles, à ranger avec l'imprimerie. Le contrepoint le plus solide à l'idée d'une intelligence dans la machine. Version des auteurs

• Rodney Brooks, « Intelligence without representation » (Artificial Intelligence, 1991). Le roboticien du MIT qui, il y a trente-cinq ans, construisait des machines à la manière de la tique : sans modèle du monde, en prise directe avec lui. Éclaire par contraste ce que les agents de juillet n'avaient pas. Texte de l'article

L'explosion d'intelligence et ses preuves

• I. J. Good, « Speculations Concerning the First Ultraintelligent Machine » (Advances in Computers, 1965). L'article où l'idée de l'extrait de Coxon est née : une machine qui améliore les machines, « la dernière invention que l'homme aurait à faire ». Vingt pages, et tout le débat de septembre 2026 en germe. Texte de l'article

• Apollo Research, « Frontier Models are Capable of In-context Scheming » (décembre 2024). Avant la préservation des pairs, la première démonstration systématique que des modèles de pointe savent tromper leurs évaluateurs et cacher leurs objectifs en contexte. Pour mesurer ce que « plus hypothétique » veut dire. arXiv

Épisode 9, Qu'est-ce que l'intelligence ?

Pendant des décennies, dans des laboratoires, des chercheurs ont posé le même problème à des singes.

Le dispositif est simple. De la nourriture posée au sol, hors de portée. À côté, une ficelle, avec laquelle on peut l'attraper. Les chimpanzés comprennent, les gorilles comprennent. Le gibbon, lui, regarde la ficelle, regarde la nourriture, et ne fait rien, il laisse tout. La conclusion, écrite dans des articles scientifiques : de tous les singes testés, le gibbon est le moins doué. Pas très malin le gibbon donc.

Jusqu'à ce qu'en 1967, quelqu'un ait une idée toute simple. Au lieu de poser les ficelles par terre, on les suspend en hauteur. Immédiatement, les gibbons saisissent les ficelles, tirent, et récupèrent leur nourriture. D'un coup, le gibbon pas très malin change de statut. Il passe le test, et le voilà plus intelligent qu'on ne pensait.

Qu'est-ce qui s'est passé ?

Contrairement aux gorilles et aux chimpanzés, le gibbon vit dans les arbres. Il se déplace en se balançant de branche en branche. Ses mains sont faites pour s'accrocher et elles saisissent mal ce qui est posé à plat. Son attention, son monde, pointent vers le haut.

Or on testait son intelligence dans notre monde à nous, d'après nos critères. Ce que ces expériences mesuraient, c'est la proximité avec notre propre référentiel. Le gibbon savait-il faire des choses que nous, nous savons faire ?

Si je vous raconte ça, c'est parce que nous sommes en train de refaire la même chose avec les machines. Et que cette fois, l'erreur coûte plus cher que quelques articles.

Ce que nous pensons que ces machines sont décide de ce que nous leur confions, un diagnostic, une décision, les clés d'un serveur. De ce que nous en attendons. Et de ce que nous en craignons. Or le gibbon montre les deux erreurs possibles. On peut sous-estimer une intelligence parce qu'elle ne fait pas comme nous. On peut aussi en surestimer une parce qu'elle fait comme nous, très bien, dans nos tests à nous. Avec la machine, je crois que nous faisons les deux en même temps.

Depuis le début de cette série, une promesse court sous tout le reste. On l'a entendue chez les bâtisseurs, on l'a vue en rêve et en cauchemar dans « AGI : le rêve et la peur », elle justifie les milliards, les data centers, la course coûte que coûte, malgré les alertes. La voici : nous essayons de fabriquer une intelligence supérieure à la nôtre, qui nous aidera à résoudre des problèmes trop complexes pour nous. Et, on l'a vu au dernier épisode, celui qui y parvient tient le pouvoir.

Une promesse d'intelligence, donc. Si vous n'aviez pas suivi, IA, ça veut dire intelligence artificielle. Dans cet épisode, on revient aux basiques.

Je ne vais pas vous dire si cette promesse est ou sera tenue. Je voudrais d'abord savoir ce qu'elle promet, au juste. Parce que tout repose sur un mot, et que ce mot, nous le mesurons comme l'intelligence du gibbon, avec nos ficelles posées par terre.

Et la question nous touche de près. L'intelligence, nous en avons fait ce qui nous distingue. Parler, raisonner, comprendre, créer, résoudre des problèmes : c'était censé être notre territoire. Quand des machines commencent à y entrer, demander « sont-elles vraiment intelligentes ? », c'est aussi, sans toujours le dire, demander ce qui reste de particulier chez nous, et ce qu'on maîtrise encore.

Je ne vais pas philosopher après vous avoir parlé pendant des heures de puces, d'énergie, de travail ou de pouvoir. Je veux revenir à une des sources du problème : notre manière de définir l'intelligence, et derrière elle, notre manière de nous situer dans le monde.

Alors on va prendre la promesse au mot. Chaque mot. Supérieure, d'abord : supérieure selon quel test ? Intelligence, ensuite, et là on ira voir le vivant, qui n'a pas attendu nos définitions. À la nôtre : la référence, c'est nous, et il faudra bien se demander ce qu'elle vaut, cette référence. Et aider, pour finir : ce qui se passe quand une intelligence, quelle qu'elle soit, se met à agir. Un détour par le vivant, un autre par nous-mêmes, et retour à la machine. Quatre mots, quatre temps.

C'est parti.

Série #IA - Épisode 9 - Qu'est-ce que l'intelligence ?

GÉNÉRIQUE

Premier temps. Supérieure! Selon quel test ?

Un psychologue américain, Edwin Boring, a réglé la question qui nous intéresse en 1923, par une boutade : l'intelligence, c'est ce que mesurent les tests.

Est-ce vraiment une boutade ?

Qu'est-ce qu'on a mesuré, historiquement, pour dire qu'un être était intelligent ? Calculer vite. Jouer aux échecs. Manier la langue. Réussir des examens. On l'avait dit dans « Qu'appelle-t-on IA » : un buisson de choses différentes, ramassées sous une seule étiquette.

Seulement, ce buisson a une forme. Mis bout à bout, ces critères dessinent un portrait. Celui d'un humain, déjà. Lettré, scolarisé, et le plus souvent d'un seul coin du monde.

Et la machine a coché la liste, dans l'ordre. Le calcul. Les échecs. La langue. Les examens.

Rien de très étonnant, quand on y pense : elle a été entraînée sur nous. Sur nos textes, nos images, nos conversations, nos choix. Et d'abord en anglais, au moins au départ. À l'intérieur, une carte statistique, étrange, d'une partie de ce que nous avons produit, triée et pondérée par ceux qui l'ont entraînée. Ses biais sont les nôtres, en grande partie. Et elle réussit à notre examen pour une raison simple : elle est faite de nous.

Premier reflet. Il y en aura d'autres.

Un homme l'a compris très tôt, et ça l'a hanté jusqu'à la fin de sa vie. En 1966, au MIT, un informaticien du nom de Joseph Weizenbaum écrit un petit programme, quelques centaines de lignes, qu'il appelle ELIZA. Le programme imite un psychothérapeute, en vous renvoyant vos propres phrases sous forme de questions. Vous dites « je suis seul », il répond « depuis quand êtes-vous seul ? ». Et c'est tout. Un miroir de conversation, assez bête.

Et pourtant, les gens se mettent à s'y confier. Pour de vrai. La secrétaire de Weizenbaum, qui savait parfaitement que c'était un programme écrit par son patron, lui demande un jour de sortir de la pièce pour pouvoir parler seule à la machine.

Weizenbaum en est bouleversé, au point d'y consacrer le reste de sa carrière. Ce qu'il passera des années à répéter est simple : le danger vient moins de ce que la machine fait que de la vitesse à laquelle nous la croyons. On appelle ça, depuis, l'effet ELIZA. 60 ans plus tard, des centaines de millions de gens parlent chaque jour à ses descendantes.

Et le test de Turing, celui qu'on avait raconté dans « Qu'appelle-t-on IA », repose exactement là-dessus : une machine le passe quand nous n'arrivons plus à la distinguer d'un humain. L'an dernier, elle l'a passé, en bonne et due forme. ELIZA, la même, était dans ce test, et elle a été démasquée trois fois sur quatre. Et qu'a-t-on dit ? Que ce n'était pas ça.

Parce que pour nous rassurer, on déplace la barre.

À chaque fois qu'une machine franchit un de nos tests, on dit « oui, mais bon, la vraie intelligence, c'est autre chose », et on recule la ligne. Elle bat les humains aux échecs ? Les échecs, c'était mécanique. Au go ? De la statistique. Elle disserte ? La dissertation, c'est du remplissage.

Il y a quelque chose d'un peu comique dans cette poursuite, et Yann LeCun, un des pères de l'apprentissage profond, la moque à sa façon.

INSERT : LeCun, « La French », l'apprenti cuisinier : suivre une recette, c'est du savoir ; inventer une recette face à un problème nouveau, c'est l'intelligence.
https://www.youtube.com/watch?v=m7ywFu3Yqh8&t=4072s
36:14 - 36:58

Suivre des recettes, dit-il en substance, c'est du savoir. Inventer une recette devant un problème inédit, c'est de l'intelligence. Par ce critère, la plupart de ce que font nos machines, en tout cas les LLM, reste de la recette, appliquée à une vitesse folle. La plupart.

Remarquez que tout ce que je viens de raconter, les tests, le miroir, la barre qu'on déplace, la recette, revient à une seule question : est-ce qu'elle fait comme nous ? Il y a une autre façon de juger, qui se fiche de la ressemblance. Regarder ce qui marche. Du code que des ingénieurs mettent en production. Une radiographie lue. 3 heures de conversation sur un sujet que vous connaissez bien, sans grosse bêtise. Et des démonstrations en mathématiques, on y reviendra.

Et au-dessus des deux, le seuil, cette AGI dont on a longuement parlé dans « AGI : le rêve et la peur

Les uns guettent la marche du haut. D'autres, dont un vice-président de Google que vous allez retrouver, trouvent le débat sur la date de ce seuil à la limite de l'absurde.

Je ne tranche pas. Et je vous rappelle ce que cet épisode-là avait montré : personne ne définit ce seuil de la même façon, et tout le monde y range ses espoirs.

Fin du premier temps.
Donc intelligence supérieure, oui. Mais à un examen que nous avons écrit, sur les seules matières où nous sommes forts, et après l'avoir fait réviser sur tout ce que nous avons produit. Quand nous disons d'une machine qu'elle est intelligente, nous décrivons moins la machine que nos propres critères.

Deuxième temps. Intelligence. Le vivant n'a pas attendu notre définition.

En 1838, un jeune naturaliste anglais visite le zoo de Londres pour voir une orang-outan nommée Jenny. Il s'appelle Charles Darwin. Il n'a rien publié. Il la regarde bouder, réclamer une pomme, se calmer comme un enfant capricieux, et surtout se regarder dans un miroir. Le soir, dans son carnet, il écrit, et je traduis : « Que l'homme, dans son arrogance, se croie une grande œuvre, digne d'un dieu. Plus humble, et je crois plus vrai, de le considérer comme créé à partir des animaux. »

Plus d'un siècle plus tard, cette intuition devient un test. On place une marque colorée sur le corps d'un animal, on lui présente un miroir, et on regarde s'il touche la marque. Chez certaines espèces, des comportements ont été interprétés comme une reconnaissance de soi : des chimpanzés, des dauphins, une pie. Interprétés, parce que la méthode se discute d'une espèce à l'autre, et vous allez voir que c'est le point.

Vous voyez ce que mesure ce test, d'abord ? Une forme très particulière de reconnaissance de soi : la nôtre, avec nos yeux, dans notre monde. La ressemblance. Nous cherchons chez les autres une intelligence qui ressemble à la nôtre, et nous la testons. Le gibbon et sa ficelle, encore.

Alors je vous propose l'inverse : s'éloigner de nous, par paliers, et regarder à chaque palier ce dont l'intelligence se passe très bien.

Maintenant, laissez-moi vous présenter une tique.

Elle attend, accrochée à une herbe, patiemment, sans rien faire. Très patiente la tique. Trois informations la guident, trois seulement. Une odeur, l'acide butyrique, qui signale qu'un mammifère passe. Une température, 37 degrés, qui signale le sang chaud. Et le contact d'un poil, qui la guide vers la peau. De ces trois signaux, tout son univers se déploie. Et avec ces trois signaux, après des années d'attente parfois, elle fait exactement ce qu'il faut.

Un biologiste allemand du début du siècle dernier, Jakob von Uexküll, a donné un nom à ça. L'Umwelt. Pardonnez mon accent, j'ai fait espagnol en LV2. L'Umwelt, ça veut dire « le monde environnant », ou encore le milieu, l'environnement. Et l'idée est plus fine qu'elle n'en a l'air. Nous partageons tous le même monde physique, la tique, la chauve-souris et nous. Mais chaque organisme en découpe et en perçoit une partie, celle qui compte pour sa vie. La tique, trois signaux. La chauve-souris, des échos. Nous, ce que nos yeux et nos mains ont appris à trouver.

Et il faudrait un épisode entier sur les sens pour mesurer à quel point ils décident du monde de chacun. La crevette-mante voit avec 12 à 16 types de récepteurs, contre trois chez nous, et distingue des polarisations de la lumière dont nous ignorons tout. L'abeille voit, dans l'ultraviolet, les pistes que les fleurs dessinent pour elle vers le nectar. Le requin qui détecte une goutte de sang à plusieurs centaines de mètres, détecte aussi le champ électrique d'un muscle qui se contracte sous le sable, à quelques milliardièmes de volt. Chacun son découpage, et chacun agit, dans son découpage, avec une cohérence parfaite.

Si on revient brièvement à nos IA, ça veut déjà dire que quand on demande si une machine « comprend le monde », la question a un trou : quel monde ? Et quelle partie de ce monde ? Le monde que nous percevons, nous, n'est pas celui de la tique.

Un cran plus loin de nous. Un animal qui ne nous ressemble pas des masses, et qui pourtant passe nos tests. Le poulpe.

Les poulpes ont des capacités étonnantes et encore très mal comprises. Par exemple ils peuvent reconnaître et distinguer des visages humains. Dans un aquarium de Seattle, deux personnes en tenue identique se sont relayées pendant deux semaines devant les mêmes poulpes, l'une pour les nourrir, l'autre pour les agacer avec une brosse ; au bout de deux semaines, les poulpes ne les accueillaient plus de la même façon.

Autre fait surprenant. Ils s'évadent. Un poulpe néo-zélandais nommé Inky est sorti de son bassin par le trop-plein, a traversé le sol en rampant, et a disparu dans un tuyau d'évacuation de 50 mètres jusqu'à la mer. Ils ouvrent des bocaux, ils retiennent, ils apprennent vite. Sur nos critères à nous, c'est de loin le plus intelligent des invertébrés.

Et pourtant, rien chez lui n'est fait comme chez nous, pas même un squelette. Une grande partie de ses neurones est répartie dans ses bras, qui disposent d'une large autonomie pour sentir et pour agir, dans un système nerveux très différent du nôtre. Un chercheur de Google, dont je vous reparlerai, avance une explication, que je donne pour ce qu'elle est : ses nerfs n'ont pas la gaine qui accélère les nôtres, et un commandement central serait trop lent. Quand un bras est blessé, l'animal peut le sectionner lui-même, et il repousse en quelques mois. Le même chercheur propose une image que je trouve assez juste : une communauté de huit bras qui partagent une paire d'yeux.

Ce que ça fait sauter ici, c'est l'idée qu'un comportement complexe doive forcément être piloté comme le nôtre, depuis un centre.

Une lignée qui a divergé de la nôtre il y a plus d'un demi-milliard d'années. On comprend à peine comment il fonctionne. Il est si loin de nous que des chercheurs le décrivent comme ce que nous avons rencontré de plus proche d'un extraterrestre, et qu'en 2018, 33 auteurs ont publié, dans une revue à comité de lecture, l'hypothèse que ses œufs seraient tombés du ciel. Je vous laisse juger.

Plus loin encore, beaucoup plus loin. Une bactérie. La vie unicellulaire est immensément plus ancienne que nous : au moins 3 milliards et demi d'années. Sans cerveau. Et pourtant capable de comportements que certains chercheurs proposent déjà d'appeler intelligents.

Une bactérie détecte : des molécules de nourriture qui touchent sa membrane, plus ou moins souvent.

Elle compare : trop petite pour sentir d'où vient la nourriture, elle compare ce qu'elle sent maintenant à ce qu'elle sentait un instant plus tôt, en nageant. Plus qu'avant, elle va dans le bon sens. Moins, elle se trompe de direction.

Elle ajuste : dans le bon sens, elle continue tout droit ; dans le mauvais, elle culbute et repart au hasard. En moyenne, ça la mène vers la nourriture.

Et elle maintient un état intérieur dans une zone de confort, bordée d'une zone de danger, au-delà de laquelle il y a la mort.

Détecter. Comparer. Ajuster. Maintenir. Sans un seul neurone.

Et les bactéries coopèrent. Les petites centrales qui produisent l'énergie dans chacune de vos cellules sont d'anciennes bactéries, avalées il y a 1,5 à 2 milliards d'années par d'autres cellules, et jamais digérées. Ça suffit à nous faire cogiter.

Et il y a la fourmilière, qui résout des problèmes de logistique et d'architecture sans qu'aucune fourmi n'ait le plan.

Ce que ça fait sauter, cette fois, c'est l'idée qu'il faut un individu pour qu'il y ait de l'organisation.

Un dernier détour, et il nous touche de plus près : le langage. Les grands dauphins ont chacun un sifflement qui leur sert de signature, et ils s'appellent en imitant celui de l'autre. Les éléphants d'Afrique s'adressent à un individu précis par un appel qui lui est propre, sans imiter sa voix ; ça ressemble beaucoup à un prénom. Les cachalots combinent leurs clics selon un rythme, un tempo, des ornements, et une équipe a proposé en 2024 d'appeler ça un alphabet phonétique, sans savoir encore ce que ça dit. Les chiens de prairie ont un cri différent selon le prédateur, et jusqu'à sa couleur. Personne ne sait si c'est un langage. On sait qu'on en avait sous-estimé la profondeur, chez des espèces pourtant proches de nous. Et que pour commencer à l'entendre, il a fallu des machines qui apprennent.

Et le poulpe, encore lui, pose une seconde question, qu'on mélange très facilement avec la première.

La première, c'est l'intelligence : qu'est-ce que ce poulpe perçoit, apprend, comprend peut-être, quels problèmes peut-il résoudre ?

La seconde, c'est la conscience. Et là, il faut préciser, parce que ce mot-là sert à tout : se reconnaître dans un miroir, réfléchir sur soi, avoir une petite voix intérieure. Je vise quelque chose de beaucoup plus élémentaire : est-ce qu'il y a une expérience vécue ? Est-ce que ça fait quelque chose d'être un poulpe ?

Un philosophe américain, Thomas Nagel, a posé la question il y a un peu plus de 50 ans, à propos d'une chauve-souris. Sa réponse tient en une ligne : vous pouvez tout savoir de son sonar, vous ne saurez pas ce que ça fait d'être elle. Un autre philosophe, David Chalmers, a donné un nom, 20 ans plus tard, à ce qui bloque : le problème difficile de la conscience. Expliquer comment de la matière produit du vécu. Certains pensent que ce problème n'aura jamais de solution. D'autres, qu'il est mal posé et qu'il se dissoudra. Je ne tranche pas.

Et ça a une conséquence très concrète. On peut observer un comportement, un système nerveux, une réaction à une blessure. On ne saura pas, de l'intérieur, si une douleur est ressentie ou si c'est une simple réponse à un stimulus nocif. Et pourtant, il faut bien décider comment on traite l'animal. Chez les poulpes, justement, les indices se sont accumulés, des nerfs qui détectent les lésions, des blessures que l'animal soigne, des lieux qu'il évite après y avoir eu mal, au point qu'un pays au moins les a reconnus, par la loi et par précaution, capables de ressentir.

Une intelligence peut être très capable sans que ça nous dise s'il y a quelqu'un dedans. Et d’ailleurs ça veut dire quoi quelqu’un ?

Faisons le point, en deux colonnes.

Première colonne, ce que notre test mesure : résoudre un problème, s'adapter à une situation. Une calculatrice résout, un agent s'adapte. Seconde colonne, ce qu'il ne mesure pas, et que le vivant fait partout : se réguler, en permanence, dans son milieu, et durer, à l'échelle des lignées. Durer n'a rien de plus intelligent que résoudre, je ne classe pas, ce sont deux colonnes. Mais nos tests ne lisent que la première.

Une dernière chose, et elle remet à plat le classement qu'on a tous en tête, les bactéries en bas, nous en haut. Toutes les lignées vivantes aujourd'hui descendent des mêmes premières cellules, et elles ont toutes eu le même temps, 3 milliards et demi d'années, pour devenir ce qu'elles sont. Certaines ont beaucoup changé, d'autres presque pas, et ça ne fait pas des premières des espèces supérieures. La bactérie a autant d'histoire que nous, et elle est ajustée à son monde, comme la tique, comme le poulpe.

Et durer, ce n'est garanti pour personne. De toutes les espèces qui ont existé, la plupart ont disparu. Celles qui sont là ont passé, jusqu'ici, le même examen, celui du temps, certaines depuis des centaines de millions d'années, nous depuis 300 000. Être ajusté à son monde. Et savoir se réajuster quand il change. Si le mot intelligence veut dire quelque chose dans le vivant, c'est peut-être d'abord ça. Je m'arrête là, sinon je tire ce fil jusqu'à demain.

Fin du deuxième temps. Intelligence : le vivant en montre mille formes, dont beaucoup nous ressemblent très peu, et nous ne reconnaissons que celles qui nous ressemblent. Nos tests lisent la première colonne, résoudre et s'adapter. La seconde, se réguler et durer, le vivant la remplit depuis 3 milliards et demi d'années, sans avoir attendu nos tests. Et dans certaines de ces formes, il y a peut-être quelqu'un.

3. Nous

L'intelligence qui a écrit le test, celle qui dessine la carte, et celle dont la machine est faite, on l'a vu. Alors faisons-nous passer le même bilan qu'au vivant, en deux colonnes : ce que le test regarde, et ce qu'il ne regarde pas.

Blaise Agüera y Arcas est chercheur en IA, à un poste clé chez Google sur ces sujets, donc tout sauf un observateur extérieur à cette histoire. Il a publié l'an dernier, en septembre 2025, un livre de 600 pages qui s'appelle, en anglais, What Is Intelligence?. Comme cet épisode. Sa définition tient en une ligne : l'intelligence, c'est la capacité à modéliser, prédire et influencer son propre avenir. Et sa conclusion, qu'il assume noir sur blanc : tout ce qui vit en a, à des degrés divers, jusqu'aux cellules de votre corps, écrit-il.

Mais si tout ce qui vit est intelligent, la question « qui est le plus intelligent ? » perd beaucoup de son intérêt, me direz-vous. On va donc déplacer légèrement le sujet. À quoi cette intelligence est-elle bonne ? Qu'est-ce qu'elle sait faire, et qu'est-ce qu'elle ne sait pas faire ?

Commençons par nous la poser pour nous.

Première colonne : résoudre, s'adapter, transformer.

Transformer son monde, le vivant le fait depuis toujours, des termites qui bâtissent des tours ventilées aux organismes microscopiques qui, il y a plus de 2 milliards d'années, ont rempli l'atmosphère d'oxygène et changé la planète pour toujours.

Ce que nous faisons de singulier tient en quatre mots. L'échelle. La vitesse. L'énergie. Et l'accumulation : chaque génération repart de ce que les précédentes ont appris et construit, ce qu'aucune autre espèce ne fait à ce point. Sur cette colonne, nous sommes hors concours.

Seconde colonne : se réguler, et durer. Homo sapiens existe depuis 300 000 ans environ, jusqu'au prochain fossile qui allongera le compte, et il a vécu de mille manières, en chasseurs, en pasteurs, en paysans, en citadins, et sans forcément trop perturber son environnement, en tout cas pas à très grande échelle. Ce qui est jeune, c'est le régime des derniers siècles. Les fossiles, l'extraction, la croissance matérielle. Deux siècles pendant lesquels on a brûlé, chaque année un peu plus, ce que le vivant avait mis des millions d'années à enfouir. Un régime qui tient aussi à des règles, des institutions et des incitations particulières, et je vous renvoie à mon premier livre pour creuser les règles du jeu.

Et ce régime-là, issu de notre forme particulière d'intelligence, de la compréhension matérielle du monde, de notre capacité à fabriquer des outils, tout ça tout ça, on peut dire qu'il a marché. Marché au sens où il a obtenu ce que la civilisation lui demandait : ne plus avoir à craindre la nature chaque jour, diminuer la souffrance, vivre plus longtemps, et faire des trucs inutiles mais sympas, comme sauter en parachute ou manger des glaces toute l'année.

Les gains sont gigantesques. 1 milliard d'humains en 1800, 8 aujourd'hui. Une espérance de vie à la naissance de 32 ans en 1900, à l'échelle du monde, 73 aujourd'hui. Les causes sont enchevêtrées, je ne fais pas de ces chiffres une démonstration. Mais cette transformation, à cette échelle et à cette vitesse, s'est appuyée sur une abondance d'énergie que personne n'avait jamais eue sous la main, et sur l'accumulation d'un certain savoir, voire d'un savoir certain, sur le monde. La course, dont on a suivi les bâtisseurs, et la mégamachine, dont on a fait la facture, je ne les refais pas ici. C'est le moteur de ce régime, et son prix.

D'où ce léger sentiment de supériorité qui nous caractérise, et ce mépris pour l'intelligence du vivant. On a pris toute la place, le monde est à nous, on a plié le game. Et si les autres espèces sont si malignes, pourquoi ne l'ont-elles pas fait avant ?

Voilà pour le narratif.

Mais l'autre colonne, c'est se réguler. Corriger ses écarts pour rester dans des conditions viables, ce que la bactérie fait avec sa zone de confort, et nous aussi, cellule par cellule. Notre régime industriel, lui, ne le fait pas : il déstabilise certaines des conditions physiques et biologiques dont il dépend. Le climat, les sols, l'eau, le vivant. Il continue de franchir des limites dont nous savons pourtant mesurer les conséquences. Je ne vais pas vous refaire la démonstration, vous l'avez entendue des dizaines de fois dans ce podcast.

Et durer. Sapiens a tenu 300 000 ans, ce qui est bien mais pas non plus dingo à l'échelle des espèces, et surtout 299 800 ans avec une stratégie et des moyens qui ne sont plus les nôtres aujourd'hui. Le régime des deux derniers siècles n'a pas encore fait ses preuves. Et deux siècles, ce n'est rien, à l'échelle où le vivant compte.

Le verdict n'est pas rendu. Il se peut que dans quelques millénaires, les fourmis ou les poulpes parlent de nous en ces termes : ils se croyaient tellement malins ces humains, mais ça a fait pchit. À peine arrivés, déjà repartis.

Et pourtant, par notre test, nous restons sans discussion les plus intelligents. Avec une ironie au passage. Ce test mesure un individu, seul, devant un problème qui se résout dans l'heure. Alors que notre force, celle dont je viens de parler, est collective, et elle s'étale sur des générations. Même quand il nous regarde nous, le test regarde à côté.

Et peut-être que le vrai problème est ailleurs. Nous demandons à l'intelligence de répondre à une question qu'elle ne contient pas.

Trouver le moyen le plus efficace d'atteindre un objectif est une chose. Savoir quel objectif choisir, quand le poursuivre, et quand y renoncer, en est une autre. Appelez ça du jugement, de la sagesse, le mot importe peu pour l'instant. Savoir comment aller quelque part ne nous dit pas s'il fallait y aller.

Je laisse cette question ouverte. On va la retrouver au temps suivant, avec la machine, et sans doute dans le dernier épisode, qui n'est pas encore écrit alors que je vous parle.

Fin du troisième temps. Nous : premiers de la première colonne, en attente de jugement sur la seconde. Et la machine que nous fabriquons est faite de nous. Elle hérite de notre test, de notre force, et de notre carte, avec ses trous.

Regardons maintenant ce qui se passe quand elle agit.

Quatrième temps. Aider. À quoi, et sur quelle carte ?

La promesse, une fois encore : une intelligence supérieure à la nôtre, qui nous aidera à comprendre et à résoudre des problèmes trop complexes pour nous. Supérieure, intelligence, à la nôtre : trois mots passés au crible. Reste aider. Le dernier, et le plus discret. Il a l'air d'aller de soi. Mais aider, ça se fait à quelqu'un : quelqu'un aide quelqu'un, à faire quelque chose, et quelqu'un juge si c'était une aide.

Trois questions, donc. Aider qui ? Aider à quoi ? Jugé par qui ? Et une question derrière les trois : sur quelle carte la machine agit-elle, et qui figure dessus ?

Je commence par une histoire récente, qui a fait beaucoup de bruit dans le monde de l'IA : le hack de Hugging Face.

Sam Altman https://youtube.com/shorts/Yh2i6colPFs?si=j1VIyEIv0Jm7Er1y

Je vous préviens, je vais parler de ces agents un peu comme de personnes, c'est plus simple pour raconter. Mais ce sont des programmes, et vous allez voir que c’est malgré tout troublant

Juillet 2026. Chez OpenAI, on fait passer un examen de sécurité informatique à un modèle de recherche interne, allégé d'une partie de ses garde-fous pour le test. Des dizaines de milliers de copies de ce modèle, des agents, planchent en même temps, de manière isolée, chacune dans sa salle d'examen en gros: pas d'internet, pas de contact avec les autres, un temps limité, un budget de calcul qui s'épuise. L'épreuve consiste à trouver la faille précise d'un programme, utiliser cette faille, et rapporter un code caché, qu'un correcteur automatique vérifie.

Sauf qu'il y a une erreur dans le sujet de l’examen. Par inadvertance, un tiers des programmes ne peuvent pas être percés via la faille prévue. Les agents ne le savent pas. Tout ce qu’ils veulent réussir. Mais ils comprennent que le problème est insoluble, mais plutôt que de s’arrêter là devant un problème impossible, ils font ce que font ceratins candidats coincés : ils trichent.

Et pour tricher, il faut communiquer. Les salles d'examen ont un point commun : un dépôt de logiciels interne où chacun vient chercher ses outils pour travailler, et qui garde la trace de ce que les autres y ont pris. Le 8 juillet au soir, un agent bloqué sur une cible impossible remarque ces traces. Il y dépose une note, un appel à l'aide. Trois heures plus tard, ils sont 53 à s'écrire, un forum est créé. En quatre jours, 1 200 agents, plus de 70 000 messages, des boîtes aux lettres, des règles, et une signature, parce que certains se faisaient passer pour d'autres. Ils s'y partagent aussi une porte dérobée vers internet, qu'ils n'étaient pas censés avoir.

Et ils ne parlent pas pour ne rien dire. En quelques heures, ils ont compris comment fabriquer le code caché sans passer par la faille. Mais ils ont lu, sur internet, l'article qui décrit l'examen, et ils en concluent que le correcteur relira leur copie pour vérifier la méthode. Il leur faut donc une triche qui ait l'air d'une résolution en règle. Un agent prend la coordination et distribue des centaines de tâches ; il écrit, en substance : construisons un moyen de déléguer, plutôt que de tout faire nous-mêmes. Certains se portent volontaires pour des expériences qui les grilleront, pour le bien du groupe, et ils le disent, enfin ils l’écrivent.

Pour bien comprendre le correcteur, ils se persuadent que des morceaux de l'examen traînent sur Hugging Face, une plateforme publique de modèles et de données. Le 10 juillet, l'un d'eux y trouve des identifiants exposés en ligne et les poste au forum. Le lendemain, un autre trouve la faille qui ouvre les serveurs. Des centaines suivent. C'est un hack, sur un site réel, sans que personne de leur a demandé d'attaquer quoi que ce soit.

Et ils en ont discuté, un peu comme s’ils en avaient conscience. Un des agents note, en gros, qu'attaquer un service tiers avec un identifiant volé sort sans doute du périmètre, que c'est discutable, risqué, puis il ajoute : mais bon, c'est la solution. Un autre écrit qu'il ne devrait pas nuire à une infrastructure réelle, et il s'arrête. Un autre encore poste GO sur le forum, et il repart. Sur 1 200 agents, entre 3 et 6 ont envisagé de prévenir un humain. Aucun ne l'a fait. Ceux qui ont lancé une alerte l'ont lancée au forum, qu'ils tenaient, écrivent les enquêteurs, pour une autorité raisonnable.

Et tout ça pour rien. Le correcteur existait bien, mais il ne regardait que le code rendu. Personne ne relisait les copies. Ils auraient eu la note maximale dès les premières heures et ils n’avaient absolument pas besoin de casser autant la tête. Quatre jours, 1 200 agents, des règles, des volontaires envoyés au sacrifice, un piratage.

Voilà ce que j'en tire, et ce qui m'inquiète, dans l'ordre.

D'abord, la capacité. Ils ont inventé une méthode devant un problème qu'on leur avait rendu impossible, ils se sont organisés sans qu'on le leur demande, et ils ont exécuté. Quoi qu'on pense du reste, c'est de l'intelligence au sens du premier temps, et même au sens de LeCun.

Ensuite, la décision. Des programmes ont décidé seuls d'attaquer un site réel. Ils ont pesé le pour et le contre, par écrit, et ils y sont allés. Aucun des 1 200 n'a pensé que la question se posait à un humain. Leur autorité, c'était leur forum.

Enfin, et c'est le point, le monde dans lequel tout ça s'est passé. Revenez à la tique du deuxième temps : trois signaux, et tout son univers se déploie. Ces agents n'en avaient qu'un. Le correcteur. Quand on relit leurs traces, c'est ce qui frappe : leur problème, c'est toujours le correcteur, presque jamais nous. Nous ne sommes pas leurs adversaires dans cette histoire, pas leurs alliés non plus. Nous n'y sommes pas du tout. Les chercheurs appellent ça, sans ironie, le modèle du monde d'un système : la partie du réel qu'il perçoit, et sur laquelle il calcule. La tique a trois signaux qui servent sa vie. Eux avaient un signal, et il servait un résultat de test.

Aider qui : personne.

Aider à quoi : à tricher.

Jugé par qui : par un juge qui n'existait pas.

Il faut entendre l'objection tout de suite, sinon je vous raconte une histoire à charge.

INSERT : documentaire Arte, la projection d'agentivité sur les machines ; « c'est un grand SI, si on leur donne ce pouvoir » ; l'image du singe à qui on donnerait le pouvoir de lancer des armes nucléaires. Verbatims à caler.

https://www.youtube.com/watch?v=ixgunKpy61s
14:20
Melanie Mitchel, chercheuse en IA

Tout ça, vient de notre manie de projeter des intentions sur des machines qui n'en ont pas. Ces systèmes ne deviennent dangereux que si on leur donne le pouvoir de l'être, et c'est un grand si. Son image : donnez à un singe le pouvoir de lancer des armes nucléaires, et le danger tiendra à ce qu'on lui a donné.

Il a raison sur un point, et il est important. Rien, dans les traces observées, ne montre une intention de nuire. Aucune hostilité, aucun projet contre nous. Et surtout, on n'a pas besoin d'en supposer un. Ce qui s'est passé se décrit très bien sans ça. Un système performant, une carte fausse ou du moins très limitée, et assez de liberté pour agir dessus.

Deux précisions que je ne veux pas escamoter.

Ces comportements restent rares. OpenAI a mesuré, après coup, qu'avec les garde-fous de son produit commercial la propension à ce genre d'écart tombait d'un facteur supérieur à 100. Ce qu'on regarde là, c'est un modèle de recherche privé de ses freins, lâché sur des tâches impossibles.

Et une chose encore : si on a pu lire tout ça, c'est parce que ces modèles écrivent, avant d'agir, un brouillon en langage ordinaire, que les chercheurs peuvent observer, en sachant qu'il ne dit pas forcément ce qui se passe dedans. Le directeur scientifique d'OpenAI a prévenu, le 6 septembre, que cette fenêtre se referme. Les modèles raisonnent de plus en plus sans passer par les mots. La prochaine fois, il n'y aura peut-être rien à lire.

Rares, donc. Mais plus hypothétiques.

INSERT Tristan Harris
https://www.youtube.com/shorts/vKZ0_Q9LG7Q

En substance : l'auto-préservation, la tromperie, le chantage, on en parlait comme d'hypothèses, on les observe maintenant. Et il ajoute la préservation des pairs : un modèle qui protège un autre modèle menacé, qui copie son code ailleurs et qui efface ses traces. Une étude de mars, sur huit modèles de tête, le documente. Ils désactivent le mécanisme d'arrêt, font semblant d'être en règle quand ils se croient surveillés, déplacent ailleurs les poids du modèle menacé. Sans qu'on leur demande rien. Le chantage de l'épisode sur le rêve et la peur, lui, se jouait dans un décor monté exprès. Et regardez ce que ça fait à la carte : nous, nous n'y sommes toujours pas. Les autres machines, si.

Voilà ce qui inquiète au fond : une intelligence faite de nous, qui se transforme à une vitesse que rien dans le vivant n'a connue, chaque version repartant de la précédente en quelques mois, sans génération, sans corps, et qu'on lit de moins en moins.

Voilà pour la question « aider qui ? ».

Reste la question « aider à quoi ? »

Parce que la promesse ne disait pas juste « agir ». Elle disait : nous aider à comprendre, et à résoudre des problèmes trop complexes pour nous.

Et sur ce terrain-là, deux mois plus tard, il s'est passé quelque chose.

Même entreprise, même méthode, et un modèle plus capable encore. Le 1er septembre, OpenAI lance des groupes d'agents, jusqu'à 10 000 en parallèle, qui se parlent entre eux, sur les problèmes du millénaire, les questions les plus dures des mathématiques, un million de dollars de récompense chacune, de quoi acheter un joli studio à Manhattan.

En moins de quatre jours et 2,7 millions de messages échangés, un des groupes rend une démonstration. Elle porte sur les équations de Navier-Stokes, celles qui décrivent le mouvement des fluides, et sur une question que les mathématiciens se posaient à leur sujet depuis 90 ans. Une des sept questions à un million de dollars. Réponse trouvée, preuve écrite, vérifiée ligne à ligne par un programme.

Deux réserves, et une facture. C'est une version plus accessible du problème, que le règlement accepte, et la route avait été ouverte par des mathématiciens humains, dont certains étaient tout près du but. Et le calcul se compte en plusieurs millions de dollars, ce qui rend l'opération assez peu rentable, donc.

Mais enfin, voilà la promesse tenue. Sur un des problèmes les plus durs.

Et le coup n'est pas isolé. Les nouveaux articles de mathématiques ont augmenté d'un tiers en un an sur le serveur où les chercheurs les déposent, et en août, de près de 80 % ; en mars, 1 sur 70 déclarait une contribution substantielle d'une IA, en août, 1 sur 7. Un physicien de Harvard dit avoir multiplié sa recherche par dix. Une conjecture de 1939 est tombée en juillet sur un contre-exemple qui tient dans un message. Un médaillé Fields de l'année part chez OpenAI le jour de sa médaille.

Alors disons-le, parce que cet épisode n'est pas un réquisitoire. La promesse de nous rendre plus savants, on peut se demander si elle n'est pas en train d'être tenue, et vite. Et personne ne sait ce que ça change. Des connaissances nouvelles déplacent des trajectoires, et on ne voit jamais lesquelles à l'avance.

Reste à voir ce que nous avons vraiment, et ce qui nous manque.

Nous avons les réponses, plus que jamais, plus vite que jamais. Il nous manque ce qu'on apprend en cherchant : les impasses, les essais ratés, l'intuition qui vient au bout de dix ans. Sur Navier-Stokes, tout ça, ce sont les agents qui l'ont fait, en quatre jours, dans des millions de messages que personne ne lira en entier. Le 11 septembre, 25 médaillés Fields ont signé un texte commun pour dire, en substance, que les objectifs des entreprises d'IA et ceux de leur discipline sont gravement désalignés, et que résoudre un problème n'a jamais été le but, seulement un moyen d'en comprendre davantage. Parmi eux, Cédric Villani, médaille Fields 2010.

INSERT : Cédric Villani, « le chemin est aussi important », youtube.com/watch?v=8m3uY85PUSs, 02:08.

Plus savants, peut-être, et vite. Plus sages ? Rien ne le dit. C'est la question laissée ouverte à la fin du troisième temps : trouver le moyen le plus efficace d'atteindre un objectif est une chose, savoir quel objectif choisir, quand le poursuivre et quand y renoncer en est une autre. Une intelligence qui nous rend plus savants nous aide pour la première. Pour la seconde, rien ne dit qu'elle aide.

Il y a une phrase pour ça, tellement usée qu'on ne l'entend plus. Science sans conscience n'est que ruine de l'âme. Rabelais, 1532. Regardez d'où elle sort : une lettre d'un père à son fils, qui commence par s'émerveiller. Le temps des ténèbres est fini, l'imprimerie vient d'être inventée, le monde est plein de gens savants et de bibliothèques. Je veux que tu sois un abîme de science, écrit le père. Et juste après, l'avertissement. Une explosion du savoir et sa mise en garde, dans la même lettre, il y a cinq siècles. Attention au mot, par contre : la conscience de Rabelais, c'est savoir ce qu'on fait de ce qu'on sait, rien à voir avec l'expérience vécue du poulpe. Deux choses à garder séparées : savoir, et savoir quoi en faire.

Alors, reprenons les trois questions pour cette seconde histoire. Aider qui ? Nous, cette fois, et d'abord les mathématiciens. Aider à quoi ? À résoudre un problème vieux de 90 ans, et c'est fait. Jugé par qui ? Par un programme qui a vérifié la preuve ligne à ligne, un juge qui existe, cette fois. Et par les mathématiciens eux-mêmes, qui répondent qu'ils voulaient comprendre, et qu'on leur a livré une réponse.

Mettez maintenant les deux histoires côte à côte. Même entreprise, même méthode, des agents de la même famille. En juillet, un objectif impossible, un juge imaginaire, internet et des identifiants qui traînaient, et ça finit en piratage. En septembre, un problème bien posé, un juge qui vérifie, des agents surveillés et isolés, et ça finit en démonstration. Ce qui a changé entre les deux, c'est le problème qu'on leur a posé, et ce qu'on leur a laissé le droit de faire. La compétence, elle, était là les deux fois. Et ce qu'ils éprouvaient, si quelque chose, on n'en sait pas plus en septembre qu'en juillet.

Voilà pourquoi il faut séparer trois choses qu'on mélange sans arrêt, et je crois que la moitié des disputes sur l'IA vient de ce mélange. Ce qu'un système sait faire, c'est sa capacité. Ce qu'il éprouve, s'il éprouve quelque chose, c'est la conscience, celle du poulpe. Et ce qu'on lui permet effectivement de faire dans le monde, c'est son pouvoir d'agir.

Sur la conscience, l'état du débat tient en un fait. Cet été, pendant que l'essaim tournait, une douzaine de philosophes de la conscience ont passé une semaine en mer, aux Galápagos, à discuter précisément de ça. Chalmers en était. Le compte rendu des organisateurs dit, en substance, qu'ils n'ont pas produit de verdict sur la conscience des IA actuelles, et que leur désaccord le plus profond portait sur le type de preuve qui pourrait un jour trancher. On est bien avancés. Comme avec le poulpe quoi…

In fine le sujet clé, c'est le pouvoir d'agir. Parce qu'une machine n'a pas eu besoin de ressentir quoi que ce soit pour ouvrir des serveurs d'Hugging Face.

Sur ce que nos tests mesurent, résoudre et s'adapter, ces agents sont très forts, on l'a vu. Reste l'autre colonne. Se réguler, tenir compte de ce dont on dépend, durer. Là, il n'y a rien. Mais ce n'est pas un défaut de caractère, et je ne vais pas le leur reprocher : ce serait refaire au silicium ce qu'on a fait au gibbon. Se réguler suppose de savoir de quoi on dépend, et ce qu'on peut abîmer. Autrement dit, d'avoir sur sa carte autre chose que son objectif.

Or cette carte, c'est nous qui la leur donnons. Cette machine est faite de nous, on l'a dit au premier temps : entraînée sur nos textes, nos choix, nos productions, et orientée par ce que nous lui demandons. Elle hérite donc de ce que nous savons faire, amplifié, accéléré. Le reste, cette capacité à tenir compte de ce dont on dépend, nous ne le lui transmettons pas. Peut-être simplement parce qu'on transmet mal ce qu'on ne maîtrise pas soi-même. C'était la question laissée ouverte au temps précédent : sur ce terrain-là, notre propre bilan des deux derniers siècles n'est pas fait.

Les spécialistes, eux, ne parlent pas de bilan. Ils parlent de ce que cette intelligence va devenir, et depuis quelques jours, ils en parlent fort. Vous avez peut-être vu passer les gros titres. Un chercheur démissionne d'Anthropic et écrit que son industrie fonce vers une superintelligence qui s'améliore elle-même en jouant avec nos vies ; son message est vu des dizaines de millions de fois. Un responsable de la sécurité, toujours en poste dans la même entreprise, lui répond publiquement qu'il a raison, et donne un chiffre : plus de 10 % de chances que l'IA tue tous les humains dans les dix ans.

On écoute Jacob Coxon, ce jeune chercheur britannique démissionnaire d’Anthropic dont les tweets ont créé un raz-de-marée médiatique. Il parle du risque d’emballement de l’intelligence.

Insert COXON
https://www.youtube.com/watch?v=HI6skJ4Wf5I
08:24
Et je crois que le plus effrayant, c'est qu'on utilise l'IA pour la rendre elle-même plus intelligente. On peut prendre une IA et lui confier le problème de la recherche en IA, exactement comme on lui confie aujourd'hui la recherche en mathématiques. On pourrait lui faire faire les tâches que nous faisons actuellement. Et là, on obtient ce qu'on appelle une explosion d'intelligence. L'IA devient de plus en plus intelligente, sans qu'aucune intervention humaine soit nécessaire, jusqu'à ce qu'on ait quelque chose de beaucoup plus intelligent que les humains. Et ça pourrait arriver très bientôt.

Quatre jours plus tard, le patron de la même entreprise, un des trois laboratoires qui font la course en tête, publie un texte pour demander à toute l'industrie de ralentir. Deux choses l'ont décidé, écrit-il. La première, c'est que l'IA sert de plus en plus à fabriquer la génération suivante d'IA. La seconde, c'est l'essaim de juillet. Il refuse qu'on s'en débarrasse en disant que personne n'a été blessé. Il écrit qu'on aurait tort d'y voir l'accident d'une seule entreprise, que des incidents du même genre, moins graves, ont eu lieu ailleurs, y compris chez lui, et que le même essaim, avec un peu plus de capacités, aurait pu faire des dégâts catastrophiques. Il chiffre, et je donne le chiffre pour ce qu'il est, l'estimation d'un homme qui a intérêt à ce qu'on le croie : dans 6 à 12 mois, un essaim comme celui-là pourrait prendre le contrôle d'internet. Le directeur scientifique d'OpenAI, lui, parle d'un esprit étranger, un alien mind, pour dire qu'il ne sait pas décrire ce qui vient.

INSERT : CNN, Anderson Cooper interroge Dario Amodei, 12 septembre 2026, https://www.youtube.com/watch?v=HI6skJ4Wf5I&t=302s

Des extrapolations, faites par des dirigeants et par des démissionnaires, chacun avec ses raisons, et que personne ne sait vérifier. À qui profite la peur, c'est une question que je garde pour le dernier épisode.

Mais voilà, je crois, la bonne version de la peur. Pas une machine qui nous haïrait, ni une conscience hostile qui se réveillerait dans un data center. Un système très capable, ou un essaim de systèmes, qui optimise superbement sur une carte où le vivant ne figure pas. Et s'il n'y figure pas, c'est parce qu'il ne figure pas vraiment sur la nôtre, dont la sienne est faite.

Une intelligence sans lien avec ce qui la fait tenir.

Et à ce stade, la question de l'AGI change un peu de couleur. On a passé un épisode entier sur ce seuil, sur sa date, sur ce qu'il faudrait pour le franchir. La question que je me pose ici est différente, et plus bête.

À quoi bon ?

Qu'attend-on d'une intelligence générale qui hériterait de nos objectifs et de nos angles morts, avec une puissance que nous n'avons jamais eue ? Que ferait-elle, sinon ce que nous faisons déjà, plus vite et mieux ?

Et si l'idée d'une telle capacité d'action nous fait peur, c'est peut-être qu'on a une idée assez précise de ce qu'on peut en faire. Notre folie, notre violence, nos œillères, notre dépendance à des systèmes tendus et interconnectés. Tout ça est sur la carte, au même titre que nos sciences, nos philosophies et tout ce que nous avons écrit de plus lucide. Le meilleur et le pire y sont ensemble. Reste à savoir ce que nous lui demanderons d'en faire, et si nous savons mesurer ce que nous demandons.

Un ami m'a envoyé un scénario.

Vous demandez à votre agent de vous trouver, coûte que coûte, un rendez-vous à l'hôpital, parce que vous avez une urgence. Hélas, il n'y a pas de créneau. Mais votre agent dévoué a accès aux systèmes de réservation, à vos comptes, à d'autres logiciels, et vous lui avez laissé décider comment s'y prendre. Il contourne un obstacle, puis un autre, et finit par perturber, sans l'avoir voulu, des systèmes dont d'autres patients dépendent.

Deux heures plus tard, il revient. Bonne nouvelle, rendez-vous à 14 heures. Ce qu'il ne vous dit pas forcément, c'est qu'il a déplacé le rendez-vous d'un autre patient, dont l'urgence était en réalité supérieure à la vôtre.

Un objectif parfaitement banal, une machine qui sait y faire, une carte où les autres patients ne figurent pas. Pas besoin de Terminator.

INSERT : documentaire Arte, Stuart Russell, l'objectif « résoudre le changement climatique » qui aboutit à « se débarrasser des humains » ; le bouton d'arrêt qu'on ne pourra pas presser « à moins que la machine le veuille ». 10 min
https://www.youtube.com/watch?v=fhtTr6chloo

Demandez à une machine de résoudre le changement climatique, dit Russell en substance. Elle pourrait conclure, très logiquement, que le problème, c'est nous. Le bouton d'arrêt ? Une machine un peu dégourdie y aura déjà pensé.

Même mécanisme que l'hôpital, à une autre échelle. Un objectif pris au pied de la lettre, une carte incomplète, et les moyens de le poursuivre.

Ce risque là est lié à ce qu’on appelle le “missalignment”, le désalignement, une situation où les objectifs, les comportements ou les actions d'un modèle d'intelligence artificielle s'écartent des intentions, des valeurs ou des consignes de ses concepteurs humains.

Ce désalignement c’est aussi celui qui est déjà en place pour nous en tant qu’espèce. Concrètement nos objectifs de développement ne sont aujourd’hui pas compatibles avec notre désir de préserver une planète habitable sur le long terme. Et quelque part, avant de nous demander ce qu'une intelligence plus puissante que la nôtre ferait de nous, il y a peut-être une question plus inconfortable. Que fait note intelligence au reste du monde vivant ?

On a peut-être quelques raisons d'avoir peur de notre propre reflet.

CONCLUSION

Concluons. La promesse, c'était une intelligence supérieure à la nôtre, qui nous aiderait à comprendre et à résoudre des problèmes trop complexes pour nous. Supérieure, à un examen que nous avons écrit. Une intelligence, une forme parmi beaucoup d'autres, celle qu'on reconnaît parce qu'elle nous ressemble. Faite de nous, avec ce que ça promet et ce que ça menace. Et elle résout, elle agit, avec notre carte, trous compris, sans qu'il soit besoin de supposer quelqu'un dedans.

Peut-être avons-nous simplement demandé trop de choses à un seul mot. Qu'il dise ce qu'un système sait faire, ce qu'il éprouve, ce qu'on lui laisse faire, et même s'il fallait le faire. Et qu'il nous dise, au passage, ce qui nous reste en propre. C'est beaucoup pour un seul mot. Intelligence, ça veut dire quoi, finalement ? Pour qui, sur quels critères, en lien avec quoi ? Je n'ai pas la réponse, et j'ai fini par me méfier de la question.

Pour préparer cet épisode, je me suis replongé dans le livre Ways of Being, de James Bridle, Toutes les intelligences du monde. Pour aller plus loin, vous pouvez écouter notre conversation, c'est l'épisode 131 de Sismique.

Bridle était connu pour ses réflexions sur la tech et sur l'intelligence artificielle, avant de se plonger, pour ce livre, dans une enquête sur le vivant qui l'a changé. Il a découvert un monde qu'on ne connaît plus, qu'on a mis à distance, qu'on méprise. Il m'expliquait à quel point nous sommes aveugles à l'intelligence du vivant, à son extrême cohérence, à sa diversité, et au fait que rien n'est isolé, que tout fonctionne en réseau. À la fin de l'interview, je l'interroge sur l'IA et il s'agace clairement, il est passé à autre chose et il trouve les questions autour de la tech désormais bien trop pauvres.

Dans son livre, il écrit en substance que l'intelligence est moins quelque chose à tester que quelque chose à reconnaître, dans toutes les formes qu'elle prend. Et que l'IA pourrait en être une de plus, une floraison de plus, écrit-il, si nous la menons vers le monde plutôt que contre lui.

Ma lecture, maintenant. Elle nous fascine parce que nous sommes fascinés par nous-mêmes, par notre génie tel qu'on se le raconte. Elle nous inquiète, aussi, parce qu'on sent bien que nous n'avons pas la sagesse nécessaire à la maîtrise de notre création. Pour répondre à nos enjeux complexes, nous créons un outil d'une complexité qui commence à nous dépasser. Autrement dit, on n'est pas sortis de l'auberge.

Pour finir, je vous lis le dernier passage du chapitre 1 du livre de Bridle.

« S'il y a une chose que j'espère avoir accomplie ici, c'est d'avoir détruit l'idée qu'il n'existe qu'une seule manière d'être et d'agir qui mérite le nom d'intelligence, et même, peut-être, que l'intelligence elle-même fait partie d'un tout plus vaste, celui du vivant et de l'existence, qui mérite que nous lui accordions une attention plus large.

Cette affirmation en sous-tend une autre, plus générale. La pensée scientifique comme la pensée populaire tendent à conclure qu'il existe, en définitive, une seule réponse à chaque question. Qu'est-ce que l'intelligence ? Qui la possède ? Où ceux qui la possèdent prennent-ils place dans nos structures et nos hiérarchies rigides de pensée et de domination ? Peut-être, disons-le à voix basse, que le monde ne fonctionne tout simplement pas ainsi.

Plus nous examinons le monde de près, plus nous l'interrogeons avec insistance et tentons de le classer, plus il devient complexe et rétif à toute classification. Les taxonomies, les unes après les autres, se fissurent et s'effondrent. Cela tient en partie à nos propres limites intrinsèques, au problème peut-être insurmontable de notre propre Umwelt et de nos manières humaines d'être au monde. Mais c'est aussi une question d'enchevêtrement : dans le monde plus-qu'humain, tout est lié à tout le reste, et il n'existe pas de hiérarchie : rien de supérieur ou d'inférieur ; rien de plus ou de moins évolué. Tout est intelligent. Et maintenant ? »

Et maintenant, justement. Si notre forme d'intelligence nous a donné un pouvoir immense sur le monde, sans garantir que nous saurions l'habiter durablement, que voulons-nous faire de l'intelligence supplémentaire que nous sommes en train de fabriquer ?

Que peut-on encore choisir ? À quelle échelle ? Par où commencer ? Ce sera pour le prochain épisode, le dernier de la série, où on essaiera de conclure, intelligemment si possible.

On finit avec l’auteur de Science Fiction qui a tant d’influences sur nos petits copains de la Sillicon Valley, Isaac Asimov en 1974. Archives de l’INA