2026年9月、個人開発者のMithil Vakde氏は、単一のRTX 5090 GPUをわずか1.5時間稼働させ、ARC-AGI-1パブリック評価で44%のスコアを達成した。学習プロセス全体にかかった費用はわずか67セントである。1台のコンシューマー向けグラフィックボードと1ドルに満たないコストで、TRMやHRMといった最先端の専門ソルバーのスコアに肩を並べ、巨額の資金を投じた数々の汎用大規模言語モデル（LLM）を凌駕してみせた。
François Chollet氏が2019年に提唱したARC-AGIは、人間の抽象的推理能力を測定する指標として長く君臨しており、コミュニティは100万ドルの賞金を懸けている。6年間にわたり挑戦を受け続けてきたこの基準を、一人の開発者が基本的なTransformerアーキテクチャをベースに突破した。
67セントで獲得した44%のスコア
Mithil Vakde氏が獲得した44%というスコアは、オープンソースコミュニティにおける小規模パラメータモデルの驚異的な効率性を示している。同プロジェクトの前バージョンが公開された際にも、Google DeepMindのLucas Beyer氏、fast.aiのJeremy Howard氏、Rohan Anil氏らトップ研究者たちの間で議論が巻き起こっていた。ハードウェア制約の厳しい環境下で、個人が開発したモデルが大手企業の頂点チームと互角に渡り合った格好だ。
大量のデータと資金を投入する既存のLLM路線は、スモールサンプル（少数の例）からの推論において疲弊を見せている。従来のトップ級専門ソルバーは複雑なアーキテクチャと高価な計算資源を必要とするが、今回のオープンソース手法は1ドル未満のコストで同等の能力を再現した。計算資源の積み上げは特定タスクにおけるアルゴリズムの効率不足を覆い隠せず、無謀なスケールアップよりも精細なアーキテクチャの剪定（チューニング）こそが本質的な突破力を持つ。
図：ARC-1 パブリックベンチマーク性能比較。出典：Mithil Vakdeのブログ
核心コンポーネントの削減でスコアが半減
本手法はTransformerの基本フレームワークを維持しつつ、SwiGlu、RMSNorm、3D RoPE位置符号化、NorMuonオプティマイザといった現代的なアーキテクチャコンポーネントを的確に導入している。作者が公表したアブレーション実験によると、3D RoPEまたはper-task embedding（タスク別埋め込み）を除外すると、モデルのスコアは即座に44%から約24%へと急落した。
| 構成 | スコア |
|---|---|
| フル構成（3D RoPE + per-task embedding） | 44% |
| 3D RoPEを削除 | 約24% |
| per-task embeddingを削除 | 約24% |
| 最も基本的な設定のみ | 18% |
| 出力トークンのみ学習（前バージョン比） | 40% → 44% |
ARCタスクの本質は2次元グリッドとカラーチャネルの処理であり、3D RoPEはこの多次元構造を正確にマッピングする。特定タスクに最適化された空間位置符号化と埋め込みメカニズムが、局所的な特徴抽出におけるモデルの弱点を的確に補完している。
アブレーションデータが物語る真実は一つだ。「タスク構造の精密なモデリングは、パラメータ数を増やすことよりも価値がある」ということだ。汎用LLMが多用する全パラメータのブルートフォース学習は、高度に抽象化された推理タスクにおいて頭打ちを迎えている。ドメインロジックに深く踏み込んだアーキテクチャ調整こそが、高スコアを引き出す真のテコとなる。
図：アブレーション実験：3D RoPEとper-task embedding削除による急落。出典：Mithil Vakdeのブログ
膨大な研究コストが探索空間を制限する
Mithil Vakde氏は「大容量言語モデルにはサンプル効率上の優位性はまったく存在しない」と大胆な判断を下している。過去6年間、ARC上でこのルートを誰も開拓できなかったのは、技術的ハードルが高すぎたからではなく、高額な実験コストが巨大ラボの研究者たちの探索空間を縛っていたからだ。1回の学習に数千から数万ドルがかかる環境では、大企業のチームは数十回から百回におよぶアブレーション実験を実行できず、どのアーキテクチャの細部がARCタスクに真に有効かを見抜くことができなかった。
わずか数セントの試行錯誤コストにより、個人開発者は様々なコンポーネントの組み合わせを高頻度でテストできた。一見些細なパラメータの調整も、1.5時間以内に検証が可能だった。数百万ドルの学習費をかけて積み上げた汎用能力は、密な試行錯誤とピンポイントの精度が求められる単一タスクの前では、どこか鈍重に映る。
図：他のアブレーションにおける最高スコア比較。出典：Mithil Vakdeのブログ
サンプル効率が後半戦の主導権を握る
複数回の実行で解けたタスクの和集合が55%に達した際、作者はTransformer単体でARCの65%という境界線に到達可能だと分析している。モデルの全重みと学習コードを含むこの完全オープンソースソリューションは、Hacker Newsで546ポイントと146件のコメントを獲得し、小規模モデルの可能性に対するコミュニティの期待に火をつけた。ARC-AGI-1での素晴らしい成果に加え、より高難度のARC-2テストにおいても7%のスコアを記録している。
わずか67セントでトップ研究チームの成果を再現してみせたことは、大手企業の数百万ドル規模の投資の非効率さを浮き彫りにした。計算資源の覇権がそのまま高スコアに直結する時代は終わり、極小コストの中でオープンソースコミュニティが示したサンプル効率こそが、AI競争の後半戦を主導するコア変数となる。
参考リンク：
- Mithil Vakdeのブログ
- HNのディスカッション
- Lobstersのディスカッション
