AIモデルが1テラワット（terawatt）級の商用核融合発電所の設計図を提示し、人類が思いつきもしなかった未知の閉じ込め方式を提案したとき、その着工・運転許可書に誰が署名できるだろうか。
UCLAの計算機科学教授（暗号理論）であるAmit Sahai氏が、世界的数学者テレンス・タオ（Terence Tao）のブログに寄稿した。機械が猛烈な勢いで新たな知識を生成し続けるなか、同氏が提示した安全保障の要は、計算速度の競争ではなく、組織化された十分な規模の「人間の理解力」を確保することだった。
人間の吸収限界を突破する機械の知識生成スピード
Sahai氏は、自身の学部生時代を振り返る印象的なエピソードを挙げている。数学科では、天才的な学生たちが抽象概念を瞬時に吸収していく傍らで、理解のペースが追いつかない学生たちが挫折し、研究の道を諦めていく光景が常にあった。そして今、全人類がその「置いていかれる感覚」に直面している。AIはすでに、人類がすでに知っている証明を再現するにとどまらず、斬新で美しい数学的アイデアを次々と生み出し始めている。
知識を「生産」するコストは限りなくゼロへと近づいている。しかし、知識を「吸収」するコストは、人間の脳という生物学的なハードウェアの限界によって厳格に固定されたままだ。1人の人間が1日に深く読み解き、検証できる論文の数には絶対的な上限がある。AIに作業を丸投げすれば答えは得られるかもしれないが、その過程から「理解」が抜け落ちてしまう。個人の認知帯域が指数関数的に増大する情報を受け止めきれない以上、社会全体として理解の総量を支える人口規模を拡大することが不可避の選択となる。
図：IPAMのファイヤーサイドチャットに登壇したテレンス・タオ（2026年）。出典：Wikimedia Commons
過去の実績が通用しない「1テラワット」の恐怖
なぜ人間が理解しなければならないのか。1テラワットの核融合炉の例に戻ろう。1テラワットという極大の出力規模において、AIが導き出した全く新しい制御手法は、それ自体が潜在的な致命傷を孕んでいる——あまりに前例がないからだ。
過去数十年間にわたり同種の施設を運用することで培ってきた「信頼の連鎖」は、ここでは完全に断ち切られる。建設を認可する前に、システム障害がどのように封じ込められるのか、緊急停止時に蓄積されたエネルギーはどこへ逃げるのか、新材料の挙動が予測と合致するのかを、人間が数理的に演繹できなければならない。過去の運用データという裏付けが存在しない以上、AIモデルの背後にある実験的証拠や不確実性の限界を人間が独立して検証できなければ、どれほど優れた「最適設計」であっても危険なブラックボックスにすぎない。
「理解力」を社会的な知的備蓄として組織化せよ
Sahai氏は、人間がAIと計算スピードを競ったり、機械が確実に実行できるプロセスを手作業で再計算したりすることを求めているわけではない。『Nature Human Behaviour』の研究でも示されている通り、単に人間の介入（Human-in-the-loop）を挟むだけでは、技術的意思決定の質が自動的に向上するわけではないからだ。
同氏が主張するのは、「理解」そのものを組織化され、適切に資金提供された社会的能力へと転換することだ。数学を象牙の塔の知的な遊戯にとどめるのではなく、緊急時に展開可能な「知的備蓄（deployable intellectual reserve）」として位置付ける。個人の認知負荷には限界があり、複雑性を咀嚼するには時間と健全な生活リズムが不可欠だ。組織的なチームワークと協力体制が整って初めて、機械が提示する工学設計を検証する強固なセーフティネットが形成される。
図：ポール・エルデシュと少年時代のテレンス・タオ（1985年頃）。出典：Wikimedia Commons
AIへの丸投げが生み出す果てなき「XY問題」
この記事を巡り、技術コミュニティは2つの陣営に分かれて白熱した議論を展開した。一方は人間の精神性や認知の観点から論じる陣営だ。彼らは、数学の本質とは人間の思考様式そのものを拡張し変革するツールであると説く。数学を単なる取引可能な商品として大規模言語モデルに丸投げし、人間が誰も理解できない定理ばかりが増殖したとしても、それは死んだ知識の山にすぎない。
もう一方は、現場のエンジニアリングの実態から警鐘を鳴らす陣営だ。実際に業務の課題をそのままモデルへ投げ込んだ開発者たちの多くは、完璧な解決策を得るどころか、際限のない古典的な「XY問題」に足を取られている。システム構造には過剰な複雑性が持ち込まれ、最終的に納品されたコードには見えない脆弱性が潜むことになる。
タオ氏のような一流の数学者ですらAIの支援を受けて論考を執筆する時代において（Sahai氏自身も、今回の草稿執筆にあたってGPT 6 Astraの支援が極めて重要であったと率直に明かしている）、人間の価値の重心はすでに移行している。システムが複雑で高度な前衛的ソリューションを生成すればするほど、その限界と境界条件を独立して検証できる「監査者」の存在が決定的な意味を持つことになるのだ。
参考リンク：
- Terry Tao’s Blogのゲスト記事
- Hacker Newsの議論
- Lobstersの議論
- Nature Human Behaviourの研究レポート
