Lorsqu’un modèle d’intelligence artificielle propose les plans complets d’une centrale nucléaire à fusion d’un térawatt (terawatt), assortis d’un système de confinement inédit auquel aucun physicien n’avait jamais songé, qui osera apposer sa signature au bas du permis de construire et d’exploitation ?
Dans un article invité publié sur le blog du mathématicien Terence Tao, Amit Sahai, professeur d’informatique et spécialiste de cryptographie à l’UCLA, s’est penché sur le flot vertigineux de connaissances générées par les machines. Face à cette déferlante algorithmique, Sahai affirme que notre ligne de défense ultime ne réside pas dans une course à la vitesse de calcul, mais dans la préservation et l’organisation d’une vaste « capacité de compréhension » humaine.
Le rythme de production des machines pulvérise les limites cognitives humaines
Sahai s’appuie sur une observation sans fard de ses années d’études. Au sein de chaque promotion universitaire de mathématiques, une poignée d’étudiants d’exception assimile les concepts abstraits à une vitesse fulgurante, tandis que d’autres camarades progressent beaucoup plus lentement. Dépassés par la frustration, nombre de ces esprits brillants finissent par abandonner définitivement la recherche. Aujourd’hui, remarque Sahai, c’est l’humanité tout entière qui fait l’expérience de ce même sentiment de décrochage. Les modèles d’IA émettent d’ores et déjà des intuitions mathématiques élégantes et profondes, qui dépassent de loin la simple reproduction de démonstrations déjà balisées par l’homme.
Le coût marginal de production du savoir s’effondre vers zéro. En revanche, le coût de son assimilation reste fermement bridé par les limites biophysiques du cerveau humain. Il existe un plafond physiologique infranchissable au nombre d’articles scientifiques qu’un chercheur peut analyser en profondeur chaque jour. Déléguer l’exécution technique à des outils automatisés livre certes des résultats immédiats, mais évacue complètement la démarche d’assimilation. Face à une bande passante cognitive individuelle incapable d’absorber une telle explosion exponentielle de données, accroître le nombre de personnes formées et mobilisables devient une absolue nécessité.
Figure : Terence Tao lors d’un échange informel à l’IPAM en 2026. Source : Wikimedia Commons
1 térawatt balaie des décennies de certitudes et d’expérience historique
Pourquoi la compréhension humaine s’avère-t-elle si indispensable ? Revenons à l’exemple de la centrale à fusion d’un térawatt. Un térawatt constitue un ordre de grandeur de puissance titanesque. Toute méthode de confinement inédite conçue de toutes pièces par un modèle recèle un danger intrinsèque : elle est radicalement nouvelle.
La chaîne de confiance patiemment forgée au fil des décennies dans l’exploitation d’installations similaires se brise net. Avant de valider une telle mise en chantier, des experts humains doivent pouvoir déduire rigoureusement la manière dont les pannes seront contenues, la destination de l’immense énergie accumulée lors d’un arrêt d’urgence, et la résistance réelle des matériaux face aux contraintes prévues. Faute de données d’exploitation historiques, si les chercheurs sont incapables d’auditer de manière indépendante les preuves empiriques et les marges d’incertitude du modèle, la conception la plus « optimale » n’est rien d’autre qu’une boîte noire hautement risquée.
Ériger la compréhension humaine en réserve intellectuelle stratégique
Sahai ne prétend nullement que l’être humain doive rivaliser de vitesse avec les processeurs, ni recalculer laborieusement des processus que les algorithmes exécutent avec une fiabilité exemplaire. Une étude parue dans Nature Human Behaviour souligne d’ailleurs que la simple présence d’un opérateur humain dans la boucle (« human-in-the-loop ») n’améliore pas systématiquement la pertinence des choix techniques.
Il préconise plutôt d’ériger la « compréhension » en une compétence sociétale structurée, coordonnée et adéquatement financée. Loin d’être un jeu abstrait confiné dans une tour d’ivoire, les mathématiques doivent être traitées comme une véritable « réserve intellectuelle mobilisable ». La charge cognitive qu’un individu peut supporter est limitée ; intégrer une telle complexité exige du temps et un équilibre de vie soutenable. Seul un travail d’équipe organisé permettra d’établir le filet de sécurité indispensable pour auditer les projets d’ingénierie élaborés par les machines.
Figure : Paul Erdős aux côtés d’un jeune Terence Tao, vers 1985. Source : Wikimedia Commons
Déléguer à la machine sans discernement multiplie les problèmes XY
Cet article a suscité un débat passionné au sein de la communauté technologique, scindée en deux camps bien distincts. D’un côté, les partisans de la construction intellectuelle rappellent que la vocation première des mathématiques est de restructurer et d’aiguiser la pensée humaine. Réduire cette discipline à une simple commodité sous-traitée à des modèles de langage — aboutissant à une avalanche de théorèmes qu’aucun esprit humain ne saurait appréhender — transformerait la connaissance en une collection de symboles inertes.
De l’autre côté, les praticiens du génie logiciel rapportent une réalité de terrain édifiante. Nombre de développeurs confiant aveuglément l’intégralité d’un problème à des modèles d’IA ne reçoivent pas des solutions élégantes, mais s’enferment dans d’interminables problèmes XY. L’architecture des systèmes se retrouve encombrée d’une complexité accidentelle disproportionnée, et le code finalement déployé regorge de failles sournoises.
À une époque où même des mathématiciens de l’envergure de Terence Tao s’appuient sur l’IA pour coucher leurs réflexions par écrit — Sahai a lui-même reconnu en toute franchise que GPT 6 Astra avait joué un rôle clé dans la rédaction de sa tribune —, le centre de gravité de la valeur humaine s’est irrémédiablement déplacé. Plus les systèmes se montrent capables de générer des solutions d’ingénierie sophistiquées et inédites, plus le pouvoir de décision revient à ceux qui disposent du discernement nécessaire pour en éprouver les limites et les zones d’ombre.
Liens de référence :
- Billet invité sur le blog de Terry Tao
- Discussion sur Hacker News
- Discussion sur Lobsters
- Rapport de recherche dans Nature Human Behaviour
