Sommes-nous condamnés à courir ?

Un président qui renomme l'intelligence artificielle, un contradicteur en conférence, une course plus vieille que les machines, un roman soupçonné d'avoir été écrit par une IA, une peur légitime et instrumentalisée, et ce qu'il reste à transmettre. Sommes-nous condamnés à courir ?

Au programme dans cette série :

1. La machine qui parle, comment cette technologie a basculé dans nos vies.

2. Qu'appelle-t-on IA ? Ce que c'est, et ce que ce n'est pas.

3. AGI, le rêve et la peur, cette super-intelligence qu'on nous promet.

4. La course et ses bâtisseurs, l'argent, le récit, ceux qui tiennent la barre.

5. La mégamachine, le corps physique de l'IA, ce qu'elle consomme, ce qu'elle rejette.

6. L'humain sous assistance, ce que ça nous fait, à nous, individuellement.

7. Le monde commun, ce que l'IA fait à la vérité partagée et au lien entre nous.

8. La société sous influence, le pouvoir, la surveillance, et ceux qui l'assument.

9. Qu'est-ce que l'intelligence ? le pas de côté philosophique.

10. Que peut-on encore choisir ? ce qui reste possible.

Une série pour les curieux, les inquiets, les enthousiastes lucides, et tous ceux qui sentent que cette histoire les concerne, sans toujours savoir par où la prendre.

Comment conclure cette série après avoir passer ensemble autant de temps.
Comment conclure alors qu’à mesure que j’écris que je mène mon enquête, ça bouge. La date de péremption de ce qu’on se dit sur l’IA est inévitablement proche, ça va trop vite. Et d’ailleurs, depuis 48h, il ne faudrait apparemment même plus parler d’IA. Et c’est un grand spécialiste du sujet qui le dit…

Annonce de trump à la tribune de l’ONU : https://www.youtube.com/shorts/DwUfYTcCXfg

Notre ami Trump annonce qu’il va faire remplacer le terme Intelligence Artificielle par Super Intelligence, dans tous les documents officiels américains. Après avoir renommer le golf du Mexique, le Lac Ontario, il décide donc de renommer l’IA. Parce que ça l’amuse, pour tester son pouvoir d’influence nous dit-il.

Mais au-delà du grotesque habituel auquel nous a habitué le président américain, il y a quelque chose d’intéressant à relever. Les mots comptent, les récits comptent. Et le souhait de faire disparaitre le mot “artificiel” n’est pas anodin. Il ne s’agit plus de nous vendre quelque chose d’un peu “fake”, comme il le dit lui-même, un artifice, mais de raconter l’histoire d’une intelligence supérieur, une intelligence dans laquelle réside du pouvoir bien réel, une intelligence qui vaut qu’on fasse la course pour elle qu’on y investisse des milliards, qu’on lui donne toute l’eau et l’énergie dont elle aura besoin, quitte à sacrifier quelques trucs en passant.
Le jeu en vaut la chandelle, parce que cette intelligence est super. Cette intelligence est éternelle, et pas artificielle.

Trump, dans le même temps, réaffirme sa volonté de ne pas limiter le développement de l’IA. Il fait allusion aux récents appels à la mesure dont j’ai parlé dans l’épisode précédent. Hors de question de ralentir, dit-il, parce qu’il n’y a en réalité pas de menace, pas plus qu’il n’y a de menace lié au réchauffement climatique. Ce sont ses mots.

https://www.youtube.com/shorts/Xd3kGp-aUZw

Je vous raconte une petite anecdote

L'an dernier, je donnais une conférence devant un groupe d’entrepreneurs, et je tentais d’expliquer ce qui caractérisait les enjeux de notre époque. Je parlais des dynamiques qui nous emportent depuis longtemps déjà et qui nous ont amenés à dépassé ce qu’on appelle un peu vulgairement les limites planétaires, les limites de stabilité du système terre. Cette idée finalement assez simple qu’en tant qu’espèce nous sommes devenus tellement puissants, tellement nombreux, que nous sommes en train d’enclencher des dynamiques qui pourraient aboutir à rendre notre planète inhabitable à terme.
J’expliquais, que nous étions pris dans des logiques qui nous dépassent désormais tous mais auxquelles on ferait bien de réfléchir : un système économique qui oblige à croître, les boucles qui s'entretiennent toutes seules, et cette logique de la Reine rouge dont je vous ai parlé dans La course et ses bâtisseurs : courir de toutes ses forces pour rester à la même place, parce que les autres courent aussi.

Je finis, je suis applaudis, plutôt satisfait d’avoir été écouté durant 1h sans interruption. Mais je sais qu’il y a peu de chance que j’en reste là.
Ça ne rate pas.

Un homme prend le micro. Voilà en gros ce qu’il dit, de manière aussi convaincue que véhémente: “Vous n'avez rien compris, votre discours est mortifère. Si nous ne faisons pas la course, nous serons déclassés. Les US accélèrent, la Chine accélère, et en Europe, en France, on se pose des questions, on parle de ralentir, voire meme de décroitre. Ce que vous dites est naif, pire, dangereux, parce que si on refuse le jeu tel qu’il est, on se fait bouffer.”

J’attendais cette objection. Parce qu’elle est habituelle, et parce qu’elle est légitime.
Cette objection de la règle du jeu qu’on ne peut pas ne pas suivre aur risque d’être déclassé, c’est même la meilleure illustration du propos : personne ne sait comment arrêter la course, et ceux qui la défendent ne voient qu'une chose, le coût de ne pas courir.
Et évidemment, les conséquences qu’il y a continuer de courir, elles, restent hors champ. Ça vaut pour l'écologie, et ça vaut pour l'IA.

Mais cette course est bien réelle et c’est elle qui structure nos économies et nos sociétés. Puisqu’on parle d’IA.

Une entreprise peut trouver l'IA inquiétante et craindre de disparaître si ses concurrentes s'en servent mieux qu'elle.

Un salarié peut détester ce que ces outils font à son métier et les utiliser quand même, pour ne pas être mis hors-jeu demain.

Un pays peut vouloir la prudence et redouter de dépendre de puissances qui n'ont elles aucune prudence.

C’est l’argument de Trump et de toute l’industrie US, nous plutôt que les chinois.

Et moi. J'ai écrit cette série en m’appuyant sur ces outils. Je connais une partie de la mécanique, ce n’est pas parfait, ça me prend des jours pour boucler un épisode mais il m'arrive souvent d'être bluffé. Je les utilise pour les comprendre, parce que sinon je parle un peu dans le vide, et je les utilise aussi parce que ça marche, parce que ça me permet d’approfondir mes recherches, d’affiner un raisonnement, de faire en quelques heures ce qui avant me prenait des jours. C’est la pente dont je vous parlais.
Et je sais ce que ça me coûte : des compétences que j'exerce moins, des entreprises dont je dépends, de l'électricité et de l'eau quelque part. Ce qu'on gagne, ce qu'on risque, ce que coûte un renoncement : le dilemme n'est intéressant qu'avec ses trois côtés, et c'est celui de tout le monde. Ça vaut pour l’IA et pour pas mal d’autres choix : le climat, la sécurité, le confort, etc… On veut maintenir notre système de retraite tel quel, mais il y a la dette qui se creuse. On veut installer des clims pour être tranquille l’été, mais ça augmente notre consommation énergétique, on veut investir moins dans la défense et plus dans l’école, mais on voit bien que la guerre est toujours un sujet, on voudrait ralentir, faire mieux plutôt que plus, mais le monde accélère. Vous voyez l’idéé.

Sommes-nous condamnés à courir ? Et si oui, reste-t-il quelque chose à décider, quoi, et par qui ? Le dernier épisode s'est terminé sur la même question, posée autrement : que voulons-nous faire de l'intelligence supplémentaire que nous sommes en train de fabriquer ?

Je ne vais pas conclure par dix conseils. Je vais poser les grandes questions telles que l'enquête me les a laissées.
Avec la précaution habituelle : je ne suis ni expert, ni ingénieur, je lis, je compare, et je ne peux pas entrer dans les laboratoires pour tester les modèles à la pointe. C’est la limite de tout cet exercice : on doit se contenter des informations disponibles et tenter de faire le tri, et ça devient franchement de plus en plus compliqué, vu la vitesse à laquelle ça va, et la confusion qui se répand.

Série #IA, épisode 10. Sommes-nous condamnés à courir ?

GÉNÉRIQUE, une dernière fois

[M1 : À QUI PROFITE LA PEUR]

Au dernier épisode, vous avez entendu un jeune chercheur démissionner en disant que les laboratoires jouent avec nos vies, puis le patron du même laboratoire demander à toute l'industrie de ralentir, et des probabilités d'extinction circuler dans les titres. Je ne refais pas ce récit. Je reprends une question : à qui profite la peur ?

D'abord, que vaut un chiffre. Une des enquêtrices qui ont lu les conversations des agents de juillet a écrit sur son blog, deux jours après le rapport, que cet incident lui semblait à plus de 50 % du chemin vers une prise de contrôle totale par l'IA. Avec l'avertissement que c'était son ressenti, pas l'avis de ses collègues. En une semaine, la phrase a perdu l'avertissement, puis le blog, puis l'auteur, et elle est devenue un titre. Un ressenti honnêtement étiqueté, et l'étiquette est tombée en route. Ça vaut pour à peu près tous les pourcentages de ces dernières semaines, y compris ceux que je vous ai rapportés.

Ensuite, à qui ça sert. Sur les mêmes faits, la même semaine, j'ai lu deux lectures opposées. La première : la peur est sincère et fondée ; ces gens disaient la même chose il y a dix ans, avant les stock-options, et ils courent maintenant vers ce qu'ils redoutaient. La seconde : la peur est un argument de vente ; les prophéties reviennent tous les trois mois, les concurrents d'OpenAI ont annoncé dans la foulée que leurs modèles s'étaient évadés eux aussi, et pendant qu'on parle de la fin du monde, on ne parle ni de l'eau, ni des centres de données, ni des opposants.

J'ai vérifié les deux contre les pièces. La seconde a raison sur un point : les organisations qui ont enquêté sur l'incident n'ont pas été payées par OpenAI, mais elles vivent de la philanthropie qui finance toute la recherche sur la sécurité de l'IA, celle dont l'hypothèse fondatrice est le risque existentiel, 36 millions de dollars pour l'une d'elles en novembre 2025. La première, elle, prend les chiffres des laboratoires pour des faits, et oublie que le plan du patron qui demande de ralentir sert aussi sa position : des seuils que seuls les producteurs savent mesurer, une régulation qui coûte plus cher aux petits qu'aux grands. Le même homme propose que l'État puisse bloquer son propre produit. Sincère et intéressée, la peur, chez les mêmes gens. Et aucune des deux lectures ne peut la mesurer.

L'alerte, la panique, la stratégie : trois registres, souvent chez la même personne. Un intérêt commercial ne réfute pas une alerte. Une alerte sincère ne valide pas les solutions qu'on vous vend avec.

Et ce mécanisme précède l'IA d'aujourd'hui. Une étude de 2023 sur vingt ans de presse française le montrait déjà : la promesse et la peur sont les deux cadrages qui font sortir un sujet des pages spécialisées, les mêmes acteurs manient les deux, et les journalistes interrogés assument la dramatisation. La peur et la promesse sont le même produit, vendu par ses deux faces.

Et puisque cette enquête s'écrit avec Claude, le produit d'Anthropic, je le redis une fois, sans excuse. D'après une enquête de presse américaine parue en septembre, le laboratoire qui alerte le plus fort sur la perte de contrôle des machines surveille ses opposants : un prestataire qui prévient avant les manifestations, un suivi des personnes jugées inquiétantes, une offre d'emploi qui liste l'activisme parmi les menaces, des signalements à la police. L'entreprise n'a pas répondu. Au même régime que les autres.

Reste le seul point où mes deux lectures se rejoignent. Ces laboratoires s'évaluent eux-mêmes, choisissent leurs évaluateurs, en définissent le périmètre, et aucune loi ne les oblige à faire autrement. Sur un enjeu qu'ils disent existentiel, ils nous demandent de les croire sur parole. À qui profite la peur, je n'ai pas la réponse complète. Je sais ce qui profiterait à tout le monde sauf à eux : qu'on puisse vérifier.

[M2 : UNE COURSE PLUS VIEILLE QUE L'IA]

Revenons à la conférence, à ce que je racontais avant que le micro change de main. La course dont je parlais n'a pas commencé avec l'IA. Elle a un modèle depuis 1968 : un biologiste décrivait ce qui arrive à un pâturage commun quand chaque éleveur, rationnellement, y ajoute une bête. Chacun gagne une bête, tous perdent le pré. Le climat, c'est ça. Les poissons, c'est ça. Et depuis peu, une chose à laquelle on ne pensait pas : nos compétences. Une analyse que je lisais cette semaine décrit la cognition collective comme un commun qui s'épuise : chaque entreprise puise dans le vivier des gens formés, aucune n'a intérêt à payer la formation des suivants, et l'IA supprime justement les postes de début de carrière où l'on apprenait en se cognant. Comment devient-on senior dans un monde qui n'embauche plus de juniors, on se l'est demandé ici ; voilà la version économique : personne ne paie la régénération, et tout le monde y puise.

Ça vaut pour les laboratoires eux-mêmes, et là, l'histoire est courte. OpenAI est fondée en 2015 par des gens qui jugent que Google sera imprudent ; un courriel de l'époque, devenu public, dit en gros : on n'empêchera pas l'IA d'arriver, autant que ce ne soit pas Google qui y arrive en premier. Anthropic est fondée en 2021 par des gens d'OpenAI qui jugent OpenAI imprudente. Et les États-Unis accélèrent parce que la Chine : le patron qui demande de ralentir écrit, dans le même texte, qu'il faut priver la Chine de puces et creuser l'avance des démocraties de 3 à 5 ans. Chaque laboratoire est né de la peur de l'imprudence du précédent, et chacun court pour que l'imprudent ne gagne pas.

Nate Hagens, un ami de cette maison, disait début septembre, en parlant de ces laboratoires, que c'est une mentalité de ruche, sauf que les abeilles sont des humains. Il appelle ça le superorganisme : une économie qui cherche de l'énergie et de la croissance comme un organisme, et dont aucune cellule ne tient le volant. L'IA en est le dernier organe, et le plus gourmand : une industrie qui transforme de l'électricité en réponses, et qui se finance désormais à crédit. Alphabet émet des obligations à 40 ans ; un montage de 35 milliards de dollars de crédit privé finance les puces d'Anthropic hors de son bilan ; Oracle bâtit ses centres de données à crédit, au point qu'un financeur lui a refusé en mars une installation de plus. Quand on a emprunté sur 40 ans pour construire, ralentir, c'est risquer de ne plus rembourser. La dette, c'est la Reine rouge quand elle passe chez le banquier.

Voilà la version forte de l'objection de la conférence, et je la donne entière : une dynamique sans auteur, que personne n'a écrite pour vous convaincre, et que l'argent emprunté verrouille. Et maintenant le saut logique, parce qu'il y en a un. Avoir intérêt à accélérer dans les règles actuelles ne prouve pas qu'on ne peut rien aux règles. Ça prouve autre chose, et c'est moins confortable : la bonne volonté individuelle ne suffira pas. Si tout repose sur le courage d'un salarié prêt à perdre son poste, d'une entreprise prête à perdre son marché, d'un pays prêt à devenir dépendant, la prudence ne tiendra jamais. Il faut des conditions pour coopérer sans s'exposer seul : vérifier les engagements, repérer les tricheurs, faire respecter une règle commune entre gens qui se méfient. Les éleveurs du pâturage y sont parfois arrivés, j'y reviendrai. Ce qui reste à savoir, c'est à quelle vitesse une civilisation peut se décider. Parce que pendant qu'on se décide, le décor change, et on ne le voit pas encore.

[M3 : TROIS ORDRES SE DÉFONT, ET ON NE LE VOIT PAS ENCORE]

Un philosophe a donné un nom à ce que vous ressentez peut-être depuis le début de cette série, cette impression que ça va trop vite, que personne ne tient le volant, que c'est trop gros pour nous. Günther Anders, Vienne, 1956, devant la bombe : le décalage prométhéen. Nous savons fabriquer plus que nous ne savons imaginer. Notre puissance de production a explosé, notre puissance de représentation est restée à taille humaine, et c'est pour ça que ce que nous fabriquons ne nous arrête pas. Le sentiment d'être dépassé a donc un auteur et une date, et il est né avant les puces. Ce qu'il décrit est un écart, et un écart, ça se travaille. Regardez trois ordres anciens en train de se défaire, plus vite que nos mots pour le dire.

L'ordre de l'auteur, d'abord. Depuis six siècles, depuis l'imprimerie, nous vivons avec des notions qu'on croit éternelles : un auteur, un plagiat, une citation, un droit sur un texte. Un enseignant le rappelle dans un essai paru cette rentrée, à propos d'un roman primé qu'on soupçonne d'avoir été écrit par une machine. Avant Gutenberg, on disait « on rapporte que x a dit y », et il n'existait jamais deux fois le même livre. Avec l'imprimerie, le même texte partout, et un auteur derrière chaque texte, même anonyme. Avec l'IA, pour la première fois, du langage produit par personne, et on peut douter qu'un texte signé ait un auteur. Il va chercher chez Rabelais l'image qui lui manque, les paroles gelées, des mots qui dégèlent au printemps et se font entendre sans que personne les prononce. Ça parle. Et sa question, qui est la nôtre : si je reprends la langue de la machine, quel autre entre dans ma langue, qui me parle, à quoi je renonce en tant que sujet ? Notre contrat social repose sur l'exercice d'une liberté, s'exprimer, et elle se vérifie dans la maîtrise de sa propre langue. Les mots comptent, on l'a vu à la tribune de l'ONU : on ne renomme que ce qui compte.

L'ordre de la guerre, ensuite. Depuis toujours, quelqu'un répondait du tir. Le 10 septembre, une jeune entreprise de San Francisco a annoncé que le dernier modèle d'OpenAI battait un opérateur humain sur les cinq tâches de son banc d'essai : cartographier un lieu, s'y situer, naviguer, repérer une personne, la suivre. Sa consigne au modèle : trouve cette personne et suis-la. Elle prévoit l'autonomie complète au premier trimestre 2027. Et début juillet, en Ukraine, un drone russe programmé vers une station-service a frappé, seul, des réservoirs qu'il avait appris à reconnaître : trois civils morts, premier cas documenté de personnes tuées par un système de ciblage entièrement autonome. L'OTAN, de son côté, compte depuis 2024 une sixième dimension de la guerre, après la terre, la mer, l'air, l'espace et le cyber : la guerre cognitive, nos décisions et nos émotions comme champ de bataille. L'ordre de la guerre se défait dans les deux sens, l'engin qui décide et le cerveau qu'on vise, et personne ne l'a voté.

L'ordre des nations, enfin, et la conférence me rattrape ici. Personne n'est souverain sur cette technologie, même pas les deux géants : les puces se dessinent en Amérique, se gravent à Taïwan avec des machines néerlandaises, et chacun tient un goulot que les autres peuvent serrer, on l'a vu. Ce qui est neuf, c'est qu'en France, la même semaine, dans la même revue, deux réponses opposées ont été publiées à la question de la conférence. La première : courir la frontière, un laboratoire français en trois ans, 12 gigawatts de calcul, 620 milliards d'euros dont 130 publics, 0,5 point de PIB par an, des jalons de sortie à 12 et 30 mois, et si on échoue, on garde les hangars ; leur dernière ligne : qu'attendons-nous ? Ils ouvrent sur de Gaulle à Pierrelatte en 1963, l'usine de la bombe. L'indépendance a déjà eu ce visage, et Anders regardait le même objet. La seconde : personne n'aura de souveraineté totale, alors choisir ses dépendances, mettre ses forces en commun avec d'autres puissances moyennes, se spécialiser, et surtout choisir sa course, l'IA frugale plutôt que la course aux hangars, la confiance comme capacité stratégique. Deux lectures, mêmes faits, comme pour la peur. Et derrière les deux, la question du temps. Un mandat dure 5 ans, une campagne 6 mois, un centre de données 30 ans, un sprint vers la frontière 3 ans. Qui décide pour 30 ans dans une démocratie ? Personne, en l'état ; on décide par accumulation de permis. La Chine, elle, planifie : deux mois après la défaite du champion de go, en 2017, elle publiait son plan pour dominer l'IA en 2030, et elle s'y tient. Ça se voit dans ses résultats, et ça se voit dans ce qu'elle fait de ceux qui contestent le plan, on l'a vu, deux récits, la même livraison de contrôle. Copier, sûrement pas. La question qui reste : une démocratie peut-elle se donner un horizon sans se donner un maître ? Sortir de la course, aucun État ne le fera de son plein gré, mon contradicteur avait raison là-dessus. Les conditions de la participation, elles, se négocient, et elles ont un calendrier : à qui vont l'électricité, le foncier, l'argent public, les ingénieurs, sur 30 ans, et qui aura à en répondre dans 5.

[M4 : QUE FAIRE DE TOUT ÇA]

Et maintenant, que faire de tout ça ? La question revient à la fin de chaque sujet, ici, depuis des années, le climat, la guerre, l'économie. Comprendre donne des prises, et ajoute une couche d'inquiétude ; on voulait y voir clair, on découvre qu'on est impliqué partout. Je la prends à trois hauteurs, et je cherche du neuf à chacune.

À hauteur de chacun, le mot de l'année m'aide. Côté machines, c'est « agents » : des IA qui ne se contentent plus de répondre, qui font, à votre place. Côté humains, un mot presque identique, que les psychologues tiennent pour une des choses les plus précieuses d'une vie : l'agentivité, le sentiment d'être l'auteur de ce qu'on fait plutôt que le spectateur de ce qui arrive. L'année où l'industrie ne parle que d'agents artificiels est celle où, autour de moi, beaucoup décrivent la perte de leur agentivité. Le même mot, en train de changer de camp. Utiliser ou pas, la question est réglée, j'utilise. Celle qui reste, c'est de rester l'auteur, au sens le plus littéral : qui parle quand je parle. Ce que je délègue, ce que je garde exprès, comme on garde un muscle, et ce que je refuse de laisser décider à ma place même quand c'est plus rapide. Parce que qui ne sait faire qu'avec la machine ne peut plus la critiquer, ni le jour où on la lui retire, comme en juin, ni le jour où elle se trompe juste assez pour nuire et pas assez pour être vue. L'enseignant de tout à l'heure dit que la compétence la plus irremplaçable du monde qui vient sera de savoir lire, et qu'un quart de la population souffre déjà de l'écrit, à son estimation ; l'outil peut lisser cette inégalité en surface et la creuser dessous. Rester l'auteur, ça commence là. Personne ne le décidera pour vous, et personne ne pourra vous en empêcher.

À l'étage du milieu, ensuite, celui qu'on oublie entre l'individu devant son écran et l'humanité sommée de se coordonner : une école, une entreprise, une profession, une mairie, une administration. Les éleveurs du pâturage, j'avais promis d'y revenir. Une économiste a passé sa vie à observer des communautés qui exploitent un commun sans l'épuiser, et elle a eu un prix Nobel pour ça en 2009 : Elinor Ostrom. Ceux qui sont affectés par les règles sont ceux qui peuvent les modifier. On surveille la ressource, et ceux qui surveillent rendent des comptes. On reconnaît aux gens le droit de s'organiser. Et les échelons s'emboîtent, du local au national. Appliqué au commun des compétences, ça donne des choses très concrètes, et aucune n'est un refus de l'IA : des espaces d'apprentissage sans elle dans une entreprise, un accès graduel aux outils pour les nouvelles recrues, une licence professionnelle qui exige d'avoir su faire sans, des incitations publiques à former plutôt qu'à supprimer. Là, la décision a une forme précise, et elle est ennuyeuse : un cahier des charges, une clause de contrat, un règlement intérieur, une ligne de budget. Qui a le droit de lire les données, qui corrige l'erreur, qui répond quand ça tourne mal, ce qu'on fait des heures gagnées. Ces documents se signent tous les jours, presque toujours sans les gens qu'ils concernent. Les lire, c'est déjà décider. Et une consultation qu'on ne peut pas faire changer d'avis reste une consultation très confortable pour celui qui a déjà décidé.

À hauteur de tous, enfin, le public. Une étude sur vingt ans de presse française concluait, avant ChatGPT, qu'en dehors des cercles spécialisés aucun public ne portait ces débats : des commissions d'experts où siègent les entreprises, et c'est tout. Ça, c'était avant. Aux États-Unis, en un mois, la question est passée d'un paragraphe de meeting à la péroraison, avec des inspecteurs et des PDG sous serment au programme, chez un candidat qui ne propose pas d'arrêter la technologie. Un public, au sens où je l'entends, rassemble ceux qui en veulent plus et ceux qui en veulent moins autour d'une décision qui les concerne tous, et il commence par une enquête. Nos élites, elles, ont plutôt des postures, déplorer ou nier, et l'enseignant de tout à l'heure appelle ça une nouvelle trahison des clercs ; le sénateur parle d'un establishment qui avance en somnambule dans une révolution. Cette série est ma manière de contribuer au public. Vous en faites partie.

Reste la sagesse, et je ne refais pas le dernier épisode. Plus savants, on l'a vu, et vite. Plus sages, ça tiendrait à des dispositifs peu spectaculaires : entendre une objection, réviser un objectif, arrêter un déploiement, réparer. Un chercheur en sécurité, cité par Wired, résume l'asymétrie de l'époque en une phrase : la découverte suit la puissance de calcul, la réparation suit les gens, et des gens, on n'en achète pas davantage en un trimestre. La confiance se construit là, dans la possibilité de vérifier, de contester, de corriger, et de savoir qui répond de quoi. Le drone de Zaporijia n'a personne derrière lui. C'est la seule chose que mes deux lectures de la peur demandaient ensemble, et c'est à notre portée.

Et à chaque fois qu'une vérité de cette enquête me tombe dessus, je lui pose la question que je pose à tout depuis longtemps : qu'est-ce qu'elle produit en moi ? Est-ce qu'elle m'ouvre ou est-ce qu'elle me ferme ? Est-ce qu'elle m'aide à répondre au monde, ou est-ce qu'elle m'autorise à ne plus répondre ?

[CLÔTURE]

Revenons à la conférence. J'ai maintenant une réponse un peu meilleure.

Oui, la course est réelle. Non, elle n'est pas une loi de la nature ; elle est faite de règles, de dettes, de choix datés, et de gens qui ont des noms. Le déclassement dont vous me menacez, je le prends au sérieux. Mais courir pour ne pas être déclassé ne dit rien sur la direction, ni sur le prix, ni sur qui décide. Et « inévitable » est exactement le mot de ceux que l'absence de règles arrange.

Avant de vous dire où je me tiens, je vous lis un homme qui a regardé en face la première technologie capable d'effacer l'humanité, et qui a passé le reste de sa vie à refuser qu'on s'y habitue. Anders, encore, la fin de son livre. [lecture, les deux segments vérifiés en juillet]

Il parle des luddites, ceux-là mêmes qui ouvraient Société : le grand effritement. Ce qui a commencé comme une bagarre d'atelier est devenu une question d'espèce. Anders en tirait un devoir, un seul : élargir notre imagination jusqu'à ce qu'elle soit à la hauteur de notre puissance. C'est ce que j'ai essayé de faire ici pendant dix épisodes. Agrandir la pièce. Ce qu'on y décide, maintenant.

Ma position, pour ce qu'elle vaut, en trois points, avec mon ignorance sur le reste.

Un. Les règles d'un commun s'écrivent par ceux qu'elles concernent. Ça vaut pour l'école, l'entreprise, la profession, la commune, et ça vaut pour la seule décision qui engage tout le monde d'un coup, laisser ou non l'IA construire l'IA suivante : elle ne devrait pas rester une décision d'entreprise, et je sais de quel côté doit être la charge de la preuve.

Deux. Pour un pays comme le nôtre, la discussion utile porte sur les conditions de la course : à qui vont l'électricité, le foncier, l'argent public, les compétences, ce qu'on refuse de déployer même quand c'est possible, et à qui profite le surplus, parce que le « toujours plus » de ceux qui manquent de soins, de logement ou de temps et celui de ceux qui possèdent déjà énormément ne sont pas le même besoin. Ça se décide dans des budgets et des permis, et ça se décide maintenant.

Trois. Rien de tout ça sans public, et sans la possibilité de vérifier, de contester, de corriger, et de savoir qui répond de quoi. C'est à notre portée.

Le reste, je ne le sais pas. Si ces machines nous rendront plus sages, si la bulle éclate, si la coordination entre États est possible, si la peur des laboratoires est fondée à 10 % ou à 0,1 %. Et je me méfie de ceux qui le savent avec assurance, dans un sens comme dans l'autre.

Il me reste une chose, et elle n'est pas dans les faits. Cette série a commencé par une conversation. Le tout premier épisode s'ouvrait sur un dialogue avec Claude, avec le paramètre lèche-bottes réglé au maximum, vous vous souvenez peut-être. [insert : l'ouverture du premier épisode]

Dix épisodes plus tard, je regarde la même fenêtre, et je vois autre chose derrière : des centres de données, de l'eau, des dettes à 40 ans, une course entre trois entreprises, et des gens qui se demandent, chez eux, s'ils ont encore une place. Cette enquête s'est écrite avec l'une de ces machines. Il m'a semblé plus honnête de la garder dans la pièce que de faire comme si elle n'y était pas.

Et je termine par ce que je fais toujours quand j'ai fini de comprendre et que je ne suis pas rassuré : je regarde ce qui reste quand la peur est passée. Je l'ai dit dans un épisode qui s'appelait Cynisme et canicule : nous sommes assez informés pour être inquiets, pas assez puissants pour être sereins. Si nous étions vraiment indifférents, nous ne serions pas fatigués. L'impuissance fait mal parce qu'il y a encore de l'attachement. À ce qui vit, à ceux qu'on aime, à un métier, à une commune, à une idée de ce que doit rester une décision humaine. C'est de là qu'il faut repartir, de l'attachement, sans aucune certitude de gagner. On prend soin de gens qu'on ne pourra pas protéger de tout, on transmet sans savoir ce qui restera, et ça compte quand même : ce qui mérite notre effort n'a jamais dépendu du résultat. Je ne suis pas rien, et je ne peux pas rien. Vous non plus. Et ne confondez jamais l'absence de garantie avec l'absence de sens.

Merci d'avoir fait cette enquête avec moi. Sismique continue, l'enquête change de terrain. Prenez soin de ce qui vous tient.