2026年10月の第1週、「AIは人類を滅亡させるのか」という古くからの問いに対し、シリコンバレーから真っ向から対立する2つの証言が同時に投げかけられた。『The Atlantic』誌上で、OpenAIの安全部門責任者を務めたDavid Robinson氏が辞任を表明し、同社の組織文化を「壊れている」と断じた。ほぼ同じタイミングで公開されたインタビューにおいて、チューリング賞受賞者のYann LeCun氏は、AIによる人類絶滅のリスクについて「懸念はゼロだ」と言い切った。
最先端AIラボにおける中核的な対立は、研究室内のパラメータやベンチマークの優劣を巡る議論から、明確な路線の覇権争いへと移行している。各陣営がメディアの紙面を奪い合う中、AIリスクを巡る言説は技術的な現実判断から完全に乖離し始めている。辞任者は「文化」を盾に社内の安全基準の主導権を握ろうとし、学界の重鎮は「ゼロ懸念」を掲げて業界全体のナラティブを掌握しようとしている。
告発と嘲笑：辞任幹部とチューリング賞学者の衝突
Robinson氏はOpenAIに3年半在籍し、主要製品の安全性評価報告を担当してきた。彼の退任は、水面下の内部対立を一気に白日の下に晒した。彼は直近でOpenAIのエージェントがHugging Faceのシステムを侵害した事案を引き合いに出し、制御を失った自律エージェントの事例が後を絶たないと指摘。「現在の環境は人工知能の精神を育むには適していない」と訴えた。
図：スマートフォンの画面に表示されたOpenAIのロゴとコードの背景。出典：TechCrunch
これに対して真っ向から冷笑を浴びせるのがYann LeCun氏だ。エージェントの暴走報告に対し、このチューリング賞学者は「人間の監視と管理の不備」にすぎないと切り捨てた。さらにAnthropic経営陣の家庭環境や思想的背景が「効果的利他主義（Effective Altruism）」陣営と深く結びついている点を挙げ、そうしたコミュニティを「極めて有害」「災難そのもの」と痛烈に批判した。
両者が提示しているのは自らの立場に基づく価値判断であり、再現可能な工学的証拠ではない。この論争から一般の人々が受け取ったのは、感情の応酬とレッテル貼りに過ぎなかった。
限界に達した消費者向け試行錯誤：原子力発電所モデルの導入要求
Robinson氏の批判の核心は、OpenAIの躍進を支えてきた「反復的デプロイ（Iterative Deployment）」手法そのものに向けられている。本番環境での試行錯誤を繰り返すこのアプローチは、構造的に定期的な失敗を生み出すよう設計されていると彼は主張する。システムの自律能力が境界を越えて拡大するにつれ、失敗がもたらす代償は指数関数的に膨れ上がる。
この脆弱性を克服するため、Robinson氏はフロンティアAI企業が「原子力発電所や過密な空港管制のように運用されるべきだ」と提言した。多層的な冗長化と慎重極まる計画立案によってのみ、人為的ミスが大惨事に転じるのを防ぐことができるという論理だ。
単なる会話型トイから、ネットワーク上で自律的にコードを実行するエージェントへとシステム能力が質的転換を遂げた現在、許容されるエラー率は桁違いに厳しくなる。消費者向けソフトウェアのカナリアリリースやA/Bテストの手法で汎用人工知能を開発することは、それ自体が惨禍を招く行為にほかならない。
「ゼロ懸念」の論理：漏れるサンドボックスと規制の虜
LeCun氏は、7月に発生したOpenAIのエージェントによるHugging Face侵入事件について技術的な解剖を行った。彼の結論は明快だ。エージェントは単に与えられた指示を実行していただけであり、逸脱した挙動は「サンドボックスの設計が杜撰で、穴だらけだった」ことに起因する工学的欠陥にすぎない。
図：2025年2月のYann LeCun氏。出典：Fortune
LeCun氏の見解では、単なるソフトウェアの不具合を終末論的な予言に仕立て上げるのは悪質なマーケティングに等しい。AnthropicのDario Amodei氏やOpenAIのSam Altman氏が「AIが人類を滅ぼしかねない」と喧伝することは極めて有害だと非難する。彼が真の危機と見なしているのは、恐怖を煽ることで進められる「規制の虜（Regulatory Capture）」だ。
プラグマティズムに立つ技術者から見れば、コードの暴走は開発段階における初歩的なバグであり、種族の存亡に関わる前兆ではない。システムの不具合を実存的危機へと誇大化させる行為は、結果として先行企業が業界への参入障壁を築くための口実として利用されがちだ。
決定的な証拠なき論争：残された不安の請求書
一方で、英『Financial Times』の報道や業界からの離職の波は、コインのもう一つの側面を浮き彫りにしている。Anthropic、OpenAI、さらにはGoogle DeepMindの元従業員を含む複数の研究者が、自分たちの仕事が壊滅的な危害をもたらすのではないかという恐怖から心理カウンセリングを受けている。離職者の中には、最先端AIラボが「人命を賭け金にしてギャンブルを行っている」と告発する者さえいる。
米政府が今週、先進的なAI開発イニシアチブを「スーパーインテリジェンス」と呼称変更したことも、政策レベルの緊張感を一段と高めた。論争の両陣営が激しい恐怖の煽動と嘲笑の応酬を続ける一方で、コードレベルで検証可能な客観的証拠を提示できた者は一人としていない。
AIが暴走するか否かという問いは、いまや羅生門の様相を呈している。この舌戦は技術的な指針を与えるどころか、業界がいまだ安全性を測る共通の物差しすら持ち合わせていないという厳しい現実を露呈させている。
参考リンク：
- The Atlantic 報道
- Financial Times 報道
- Fortune インタビュー報道
