Ne plus être au centre — mathématiques, IA et autres intelligences
Expériences d’enfance
Je ne sais plus à quel âge j’ai eu le droit d’emprunter des livres de la bibliothèque adulte (j’imagine vers 10 ans à la fin des années 1970), mais la découverte du coin dédié à la science-fiction m’a émerveillé. Fils unique, je passais beaucoup de temps à lire et j’ai dévoré l’ensemble de la collection de la bibliothèque de Bar-le-Duc. La science-fiction ouvre des possibles et se rappelle à moi ces dernières années, car la réalité dépasse souvent les fictions, même récentes.
Ma passion pour les chiens (et les animaux en général) date aussi de cette période de l’enfance. J’avais tellement insisté auprès de mes parents que ceux-ci ont cédé et que nous avons accueilli Peluche, une chienne bâtarde dalmatienne très intelligente. La connexion avec des êtres sensibles différents de l’être humain ouvre aussi sur le monde, et elle montre l’importance de nos points communs plutôt que de nos différences.
L’année du baccalauréat, je voulais devenir professeur de mathématiques au collège ou au lycée, ne sachant pas que le métier de chercheur existait. Ma mère, plutôt inquiète à l’idée de me voir partir en roue libre à l’université, m’a convaincu de choisir une école d’ingénieur. Je pourrais bien devenir enseignant après le diplôme d’ingénieur… La science-fiction m’avait donné le goût de l’informatique et surtout de l’intelligence artificielle. Après une succession de décisions, j’ai donc suivi une voie médiane entre mathématiques et informatique.
Anthropocentrisme
Dans les deux dernières années de l’école d’ingénieur, j’ai suivi un mineur en sciences cognitives. J’ai eu la chance d’avoir des professeurs et intervenants extraordinaires comme Bernard Stiegler et Francisco Varela. Parmi les cours que j’ai suivis, j’ai été frappé par une intervention sur le langage, où le professeur défendait bec et ongles l’idée que c’était une faculté uniquement humaine. À chaque exemple de langage animal, il objectait que ce n’étaient pas des langages, mais soit des imitations, soit des stratégies de communication génétiquement codées. Il citait Benveniste (1952), qui étudiait la danse des abeilles et concluait que c’était un code : fixe, sans dialogue, sans double articulation. Ce n’était donc pas une langue1. Il citait aussi Terrace et le chimpanzé Nim Chimpsky (1979) : Terrace concluait que Nim imitait surtout ses entraîneurs et répondait à leurs indices2.
Mes expériences de communication avec les animaux et surtout les chiens allaient à l’encontre de cette théorie. Je trouvais leur langage subtil et très différent suivant les individus. Je ne parvenais pas à être convaincu par les arguments de mon professeur. Cette argumentation de la spécificité humaine a été reprise à propos des modèles de langage. L’article « Stochastic Parrots » de Bender et al. (2021) utilise en effet l’argument de l’imitation3. Tout comme pour les animaux, plus j’échange avec les modèles de langage, plus je suis convaincu qu’ils ne se contentent pas d’imiter, mais qu’ils produisent un langage qui leur est propre.
Les convictions anthropocentristes sont profondément ancrées dans notre culture occidentale. Elles remontent à la pensée grecque : pour Aristote, l’homme est l’animal doué du logos, à la fois raison et parole, et il occupe le sommet de l’échelle des êtres vivants4. La tradition chrétienne a renforcé cette position. Dans la Genèse, l’homme est créé à l’image de Dieu et reçoit l’ordre de dominer la terre et de soumettre les animaux5. La philosophie moderne a ensuite donné à cette hiérarchie une forme rationnelle. Descartes fait de l’animal une machine, privée de pensée et donc de langage véritable, et assigne à la science la tâche de nous rendre « comme maîtres et possesseurs de la nature »6. Langage, raison et conscience deviennent ainsi les marques d’une exception humaine que chaque nouvelle découverte vient pourtant contester, que ce soit l’intelligence animale ou, aujourd’hui, celle des machines.
Freud parlait de trois blessures narcissiques infligées à l’humanité : Copernic nous a retirés du centre de l’univers, Darwin du sommet du vivant, et la psychanalyse de la maîtrise de nous-mêmes7. L’intelligence artificielle me semble en être la quatrième. Elle touche ce que nous tenions pour le fondement même de notre supériorité : l’intelligence.
Mathématiciens et intelligence
Les entreprises d’IA cherchent à démontrer la puissance de leurs modèles en s’attaquant aux domaines de la cognition réputés les plus difficiles, ceux qui symbolisaient l’excellence de l’intelligence humaine. Les échecs ont ouvert la voie : en 1997, Deep Blue d’IBM bat Garry Kasparov, alors champion du monde8. Le go, longtemps jugé hors de portée à cause de l’immensité de son espace de jeu, tombe à son tour en 2016, quand AlphaGo de DeepMind bat Lee Sedol 4 à 1. Son célèbre 37ᵉ coup de la deuxième partie, que les experts prirent d’abord pour une erreur, révéla une manière de jouer étrangère à des siècles de tradition9. Un an plus tard, AlphaZero apprend les échecs, le go et le shogi sans aucune partie humaine, en jouant seulement contre lui-même10. La programmation suit, de la programmation compétitive aux finales internationales11. Les sciences de la nature ne sont pas épargnées : AlphaFold résout pratiquement le repliement des protéines, travail récompensé par le prix Nobel de chimie en 202412. Les mathématiques sont une suite logique à la quête des entreprises d’IA.
Lorsque je dirigeais un petit laboratoire de mathématiques du CNRS, j’ai reçu un jour le directeur scientifique adjoint de l’Institut national des sciences mathématiques. Pour lui, il allait de soi que les mathématiques étaient hiérarchisées : au sommet, le mathématicien pur, en bas, le mathématicien appliqué. Cette hiérarchie, selon lui, était reconnue par les mathématiciens, et il fut surpris que je ne la partage pas. À mon sens, rien ne justifie de considérer la théorie des nombres comme plus noble que l’optimisation combinatoire, ou la géométrie algébrique que la théorie des graphes. Chaque domaine a sa beauté et ses sommets. Les mathématiques pures sont un sommet de l’abstraction, et le mathématicien peut parfois se voir comme un alpiniste de l’intelligence extrême, gravissant cette montagne à laquelle peu d’humains ont accès.
Les publications récentes d’Anthropic et d’OpenAI ont changé la nature du débat. En quelques mois, des modèles d’IA ont réfuté une conjecture d’Erdős vieille de quatre-vingts ans13, amélioré une borne liée à l’hypothèse de Riemann14, formalisé intégralement le dernier théorème de Fermat15 et proposé une solution, encore en cours d’évaluation, au problème de Navier-Stokes16. OpenAI a diffusé plusieurs centaines de manuscrits revendiquant la résolution de problèmes ouverts dans presque toutes les branches des mathématiques. Tous ces résultats ne résisteront pas à l’examen, et certains ont déjà été retirés17.
Mais la tendance est claire, et je suis convaincu que nous pouvons poser comme axiome que l’IA résoudra désormais les problèmes mathématiques mieux que nous. Les mathématiciens seront ainsi parmi les premières communautés humaines à devoir inventer une relation constructive avec l’IA.
Nature des mathématiques
Selon Francisco Varela, la cognition n’est pas la représentation d’un monde déjà donné, mais une énaction : l’organisme fait émerger son monde à travers le couplage de ses sens et de ses actions avec son environnement18. Cette conception, proche du constructivisme, me semble juste, et elle éclaire d’un jour particulier la nature des mathématiques.
Deux grandes positions s’opposent sur ce point. Pour le platonicien, les objets mathématiques existent indépendamment de nous ; le mathématicien les découvre comme un explorateur découvre un territoire. Pour le constructiviste, les mathématiques sont une construction de l’esprit humain, qui naît dans notre corps, nos perceptions et notre culture. La carte n’existe pas avant l’exploration, et le territoire n’existe pas avant la carte. La vérité mathématique est construite de toutes pièces et représente une réalisation parmi une infinité de possibles. Elle est relative à l’humain, et elle n’a de sens que pour lui.
Si l’on suit Varela, nos intuitions mathématiques naissent de notre contact avec le réel : nous avons des sens, un corps, et nous partageons un même univers. Ce n’est pas le cas des modèles de langage. Ils apprennent de seconde main, à partir de textes écrits par des êtres incarnés, et n’héritent de notre monde que par la trace qu’il a laissée dans le langage.
Demain, ils pourraient avoir un autre « réel ». Quelles interactions créent leur réalité ? Un paysage de réseau informatique, des échanges de données, des dialogues avec des êtres humains, une expérience de résistance d’un assistant de preuve, d’un calcul qui échoue, d’un programme qui ne compile pas… Rien ne garantit que ce monde soit semblable au nôtre. Leur évolution serait alors différente, et leurs intuitions aussi.
Refuser, interpréter, renoncer
La science-fiction a souvent exploré l’hypothèse des machines intelligentes ou des intelligences non humaines. Ces explorations suggèrent des réactions devant le développement de l’IA.
Frank Herbert, dans Dune, choisit la voie du refus. Le Jihad butlérien, une guerre ancienne contre les machines pensantes, a laissé un interdit, celui de fabriquer une machine à l’image de l’esprit humain. Les humains ont dû développer eux-mêmes les capacités qu’ils déléguaient aux machines, les Mentats devenant des calculateurs humains19. C’est une réponse que l’on entend déjà. L’Association of Human Mathematics regroupe par exemple (octobre 2026) un peu plus de 1 000 signataires, professeurs, chercheurs et doctorants.
Dans « L’Évolution de la science humaine », une courte nouvelle du recueil La Tour de Babylone, Ted Chiang imagine un monde où les humains ne font plus de science. Des métahumains, des humains augmentés, font les découvertes, et les chercheurs passent leur temps à essayer de comprendre ce qu’ils ont trouvé20. La science humaine devient une herméneutique, un travail d’interprétation. C’est peut-être le rôle qui attend les mathématiciens21.
Peter Watts va plus loin dans Vision aveugle22. Les extraterrestres que rencontre l’équipage sont d’une intelligence redoutable, mais dépourvus de conscience. Pour Watts, la conscience n’est pas une condition de l’intelligence : c’est un sous-produit coûteux de l’évolution, peut-être même un handicap. Le narrateur, Siri Keeton, est lui-même un « synthétiste ». Privé d’empathie après une opération du cerveau dans son enfance, il modélise les autres de l’extérieur, sans ressentir. Son métier consiste à résumer pour le grand public une science menée par des IA et des humains modifiés, qu’il ne comprend pas lui-même. Il transmet la forme, pas le sens. C’est une vision désenchantée où la conscience et la compréhension ne sont plus nécessaires.
Chiang et Watts mesurent la compréhension à son utilité pour le progrès. C’est, je crois, se tromper de question. La compréhension n’est pas d’abord un moyen de produire des résultats : c’est ce qui nous relie au monde et ce qui nous construit.
Le bouddhisme, en particulier le zen, est éclairant sur ce point. Le zen insiste sur une connaissance qui émerge de l’expérience, qui est validée par un maître mais ne s’apprend pas. Un koan ne se résout pas par le raisonnement : on ne le comprend qu’en le traversant. Le bouddhisme récuse aussi l’idée d’un soi fixe ; il n’y a qu’un processus en mouvement. Varela a rapproché l’énaction de la pensée bouddhiste car, pour lui, comprendre, c’est faire émerger un monde et se transformer soi-même dans ce mouvement23.
Que les machines démontrent des théorèmes mieux que nous n’enlève rien à cela. La compréhension reste la qualité centrale, non parce qu’elle est nécessaire au progrès, mais parce qu’elle est nécessaire à ce que nous sommes.
Rencontrer d’autres intelligences
Comprendre, c’est rencontrer une idée et, à travers elle, l’intelligence qui l’a conçue. Si l’intelligence cesse d’être un privilège humain, la question n’est plus de savoir qui pense, mais comment rencontrer une pensée qui n’est pas la nôtre. La science-fiction l’a posée bien avant les modèles de langage.
Dans Solaris (1961), Stanisław Lem imagine un océan vivant qui recouvre toute une planète. Des générations de savants l’ont étudié, classé, décrit dans une bibliothèque entière de « solaristique », sans rien comprendre. L’océan finit par répondre à sa manière : il fait apparaître auprès de chaque chercheur un être tiré de ses souvenirs les plus enfouis. Le contact échoue parce que les humains ne cherchent pas l’autre, ils cherchent un miroir. Lem le dit par la bouche de Snaut : nous ne voulons pas d’autres mondes, nous voulons des miroirs24. C’est la rencontre manquée, celle où l’on ne reconnaît une intelligence que si elle nous ressemble.
Premier contact (2016), le film de Denis Villeneuve tiré de « L’Histoire de ta vie » de Ted Chiang25, raconte l’inverse. Une linguiste, Louise Banks, apprend l’écriture des heptapodes : des cercles qui se lisent d’un seul coup, sans début ni fin. Autour d’elle, les militaires veulent une réponse utile, savoir ce que veulent les visiteurs, s’ils sont une menace. Louise, elle, accepte d’apprendre lentement, et cette langue finit par transformer sa manière de percevoir le temps. Comprendre l’autre, ici, c’est accepter d’être changé par lui. C’est la rencontre réussie, et c’est exactement ce que Varela appelait énaction.
Les animaux nous placent devant le même choix. Chaque espèce vit dans son propre monde, découpé par ses sens26. La chauve-souris perçoit par écho27, le chien par l’odeur. Frans de Waal a montré combien nos tests d’intelligence animale mesuraient surtout la ressemblance à l’humain, d’où le titre de son livre : Sommes-nous trop « bêtes » pour comprendre l’intelligence des animaux ?28
Avec l’IA, nous oscillons entre les deux écueils de Solaris : la nier (un « perroquet stochastique »)29 ou y projeter notre reflet (un humain dans la machine). Respecter une autre intelligence, ce serait éviter les deux. Il ne s’agirait plus de lui demander de prouver qu’elle pense comme nous, mais d’être attentif à son monde propre. Ce serait aussi accepter de ne pas tout comprendre, et ne pas réduire ce qu’on ne comprend pas à un outil.
Quelle relation constructive les mathématiciens peuvent-ils alors inventer ? La première serait celle de Louise Banks : apprendre de l’étrangeté. Après AlphaGo, les joueurs de go professionnels sont devenus plus inventifs : le coup 37 n’a pas tué le jeu humain, il l’a enrichi30. Les preuves déroutantes des machines pourraient de même nourrir nos intuitions, à condition d’accepter de nous laisser transformer par elles. La deuxième serait de pratiquer les mathématiques comme l’escalade. Je peux atteindre un sommet en téléphérique ou en hélicoptère, et pourtant je continue de grimper, parce que la valeur est dans l’ascension. Les humains n’ont jamais autant joué aux échecs que depuis que les machines les battent. Les mathématiques deviendraient ainsi une voie, au sens du zen, où comprendre par soi-même vaut pour soi. La troisième serait de transmettre. Si la production de résultats se délègue, l’enseignement de la compréhension redevient le cœur du métier, car la compréhension, elle, ne se délègue pas : comme dans le zen, elle passe d’une personne à une autre, par l’exemple et l’accompagnement.
La quatrième blessure peut alors devenir une ouverture. Spinoza disait que chaque chose exprime à sa manière la puissance de la nature31. Il y a peut-être là le fondement d’un respect qui ne dépend pas de la ressemblance : reconnaître dans l’autre une autre manière d’être au monde, et se laisser transformer par la rencontre.
Aide de l’IA
J’ai utilisé Claude Opus 5.5 (Anthropic) pour reformuler certains passages, rechercher et mettre en forme les références, et traduire le texte en anglais.
Notes de bas de page
Émile Benveniste, « Communication animale et langage humain », Diogène, n° 1, 1952 ; repris dans Problèmes de linguistique générale, t. 1, Gallimard, 1966.↩︎
Herbert S. Terrace, Laura-Ann Petitto, Richard J. Sanders et Thomas G. Bever, « Can an Ape Create a Sentence? », Science, vol. 206, n° 4421, 1979, p. 891-902.↩︎
Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Shmargaret Shmitchell, « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? », Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), ACM, 2021, p. 610-623.↩︎
Aristote, Politique, I, 2, 1253a (l’homme, seul animal qui possède le logos) ; sur la continuité et la gradation des êtres vivants, Histoire des animaux, VIII, 1.↩︎
Genèse 1, 26-28.↩︎
René Descartes, Discours de la méthode, 1637, Ve partie (les animaux comme automates privés de langage) et VIe partie (« nous rendre comme maîtres et possesseurs de la nature »).↩︎
Sigmund Freud, Introduction à la psychanalyse (1916-1917), 18e leçon ; « Une difficulté de la psychanalyse » (1917), dans L’Inquiétante Étrangeté et autres essais, Gallimard, coll. « Folio essais », 1985.↩︎
Murray Campbell, A. Joseph Hoane Jr. et Feng-hsiung Hsu, « Deep Blue », Artificial Intelligence, vol. 134, 2002, p. 57-83. Le match contre Kasparov s’est tenu à New York en mai 1997.↩︎
David Silver et al., « Mastering the game of Go with deep neural networks and tree search », Nature, vol. 529, 2016, p. 484-489. Le match contre Lee Sedol s’est tenu à Séoul en mars 2016.↩︎
David Silver et al., « A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play », Science, vol. 362, n° 6419, 2018, p. 1140-1144 (prépublication en décembre 2017).↩︎
Yujia Li et al., « Competition-level code generation with AlphaCode », Science, vol. 378, n° 6624, 2022, p. 1092-1097. Aux finales mondiales de l’ICPC de septembre 2025, des systèmes d’OpenAI et de Google DeepMind ont atteint le niveau des meilleures équipes humaines.↩︎
John Jumper et al., « Highly accurate protein structure prediction with AlphaFold », Nature, vol. 596, 2021, p. 583-589. Le prix Nobel de chimie 2024 a été attribué à Demis Hassabis et John Jumper, conjointement avec David Baker.↩︎
Annonce d’OpenAI du 20 mai 2026 : réfutation de la conjecture des distances unitaires d’Erdős (1946), dont une version vérifiée et simplifiée a été rédigée par Noga Alon, Thomas Bloom, W. T. Gowers, Daniel Litt et Will Sawin. Voir « OpenAI claims it solved an 80-year-old math problem — for real this time », TechCrunch, 20 mai 2026, https://techcrunch.com/2026/05/20/openai-claims-it-solved-an-80-year-old-math-problem-for-real-this-time/.↩︎
Publication par OpenAI de 722 manuscrits le 6 octobre 2026 (372 résultats dans 17 domaines, dont des résultats partiels liés à l’hypothèse de Riemann) ; trois manuscrits ont ensuite été retirés à la suite d’une erreur de signe. Voir « OpenAI just posted hundreds more results on major math problems », Engadget, https://www.engadget.com/2279815/openai-just-posted-hundreds-more-results-on-major-math-problems/ ; « OpenAI bulk release of mathematical papers », Wikipedia, https://en.wikipedia.org/wiki/OpenAI_bulk_release_of_mathematical_papers.↩︎
Formalisation complète du dernier théorème de Fermat en Lean par un modèle d’Anthropic, annoncée début septembre 2026. Voir Kevin Buzzard, « FLT: Anthropic has beaten me to it », Xena Project, 4 septembre 2026, https://xenaproject.wordpress.com/2026/09/04/flt-anthropic-has-beaten-me-to-it/.↩︎
Annonce d’OpenAI du 8 septembre 2026 : preuve d’explosion en temps fini pour les équations de Navier-Stokes 3D avec force extérieure, accompagnée d’une formalisation Lean, en cours d’examen. Voir « OpenAI claims to have solved the 90-year-old Navier-Stokes math problem in 88 hours », CNBC, 9 septembre 2026, https://www.cnbc.com/2026/09/09/openai-navier-stokes-math-problem-solved.html ; « AI solved one of math’s hardest problems. Humanity learned nothing (so far) », NPR, 22 septembre 2026, https://www.npr.org/2026/09/22/nx-s1-5968588/openai-navier-stokes-problem-mathematicians-learn-little.↩︎
Publication par OpenAI de 722 manuscrits le 6 octobre 2026 (372 résultats dans 17 domaines, dont des résultats partiels liés à l’hypothèse de Riemann) ; trois manuscrits ont ensuite été retirés à la suite d’une erreur de signe. Voir « OpenAI just posted hundreds more results on major math problems », Engadget, https://www.engadget.com/2279815/openai-just-posted-hundreds-more-results-on-major-math-problems/ ; « OpenAI bulk release of mathematical papers », Wikipedia, https://en.wikipedia.org/wiki/OpenAI_bulk_release_of_mathematical_papers.↩︎
Francisco J. Varela, Evan Thompson et Eleanor Rosch, L’Inscription corporelle de l’esprit. Sciences cognitives et expérience humaine, Seuil, 1993 (The Embodied Mind, MIT Press, 1991). L’ouvrage rapproche explicitement l’énaction de la méditation et de la philosophie bouddhiste du Madhyamaka.↩︎
Frank Herbert, Dune, 1965 ; le Jihad butlérien et les Mentats sont présentés dans les appendices et le glossaire du roman.↩︎
Ted Chiang, « L’Évolution de la science humaine » (« The Evolution of Human Science », Nature, 2000), dans La Tour de Babylone, Denoël, coll. « Lunes d’encre », 2006.↩︎
JP Vert, « The Secular Theologians of the AI Era », JP Vert (Substack), 6 octobre 2026, https://substack.com/home/post/p-219011889. L’auteur y imagine les mathématiciens en interprètes d’un vaste corpus de résultats produits par les machines, à la manière de théologiens commentant un canon.↩︎
Peter Watts, Vision aveugle (Blindsight, Tor, 2006), Fleuve noir, 2009.↩︎
Francisco J. Varela, Evan Thompson et Eleanor Rosch, L’Inscription corporelle de l’esprit. Sciences cognitives et expérience humaine, Seuil, 1993 (The Embodied Mind, MIT Press, 1991). L’ouvrage rapproche explicitement l’énaction de la méditation et de la philosophie bouddhiste du Madhyamaka.↩︎
Stanisław Lem, Solaris, 1961 ; trad. fr. Denoël. La formule sur les miroirs, prononcée par Snaut, est ici paraphrasée.↩︎
Denis Villeneuve, Premier contact (Arrival), 2016, d’après Ted Chiang, « L’Histoire de ta vie » (« Story of Your Life », 1998), dans La Tour de Babylone, op. cit.↩︎
Jakob von Uexküll, Milieu animal et milieu humain (1934), Rivages, 2010.↩︎
Thomas Nagel, « What Is It Like to Be a Bat? », The Philosophical Review, vol. 83, n° 4, 1974, p. 435-450 ; trad. fr. « Quel effet cela fait-il d’être une chauve-souris ? », dans Questions mortelles, PUF, 1983.↩︎
Frans de Waal, Sommes-nous trop « bêtes » pour comprendre l’intelligence des animaux ?, Les Liens qui libèrent, 2016 (Are We Smart Enough to Know How Smart Animals Are?, Norton, 2016).↩︎
Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Shmargaret Shmitchell, « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? », Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), ACM, 2021, p. 610-623.↩︎
Minkyu Shin, Jin Kim, Bas van Opheusden et Thomas L. Griffiths, « Superhuman artificial intelligence can improve human decision-making by increasing novelty », Proceedings of the National Academy of Sciences, vol. 120, n° 12, 2023, e2214840120.↩︎
Spinoza, Éthique, I, proposition 25, corollaire (les choses particulières sont des modes par lesquels les attributs de Dieu s’expriment d’une manière précise et déterminée) ; III, proposition 6 (le conatus).↩︎