2026年6月、Ryan Findleyというエンジニアが自宅の地下室で、Googleが最近リリースした大規模モデルGemma 4（260億パラメータ）を、2013年製の古いサーバーに押し込んだ。グラフィックボードはなし、AI専用チップもなし、ただ二つの古びたインテルXeon（至強）CPUだけで動かした。その結果：毎秒5文字を吐き出す。
そう、見間違いではない。5文字だ。あなたがこの文を読み終えるころ、ちょうど次の単語が一つ飛び出してくる。
だが、この機械は動いたのだ。HNで209の推薦と139件のコメントを集めた。人々が興奮したポイントはこうだ：廃棄されたハードウェアで最新AIが、果たして動くのか？
その機械はどれほど古いのか
まずはこの「老戦士」の構成を見てみよう。もともとはHPのストレージサーバー——かつて企業がファイル保存専用に買ったもので、「ハードディスクを詰め込む」ことこそが設計目標であり、「計算をする」ことではなかった。二つのXeon E5-2690 v2 CPU、2013年の製品で、メモリはさらに前の世代のDDR3規格だ。本体は今の中古市場で300ドル（約4万5000円）未満である。
さらに決定的なのは、ほとんどすべての現代AIソフトウェアが「あなたにはあるはずだ」と前提としている一つの命令セット——AVX2——を欠いていることだ。これはインテルが2014年になってCPUに加えた、大規模なベクトル演算を専門に扱う一連の高速化命令である。それがなければ、一桁の足し算しか知らない小学生に微積分を解かせるようなもので、計算自体はできるが、一歩一歩を無数の小さなステップに分解しなければならない。
原作者も最初は失敗している。2016年製のXeonで別の技術ブロガーが動かした方法にならって試したが、プログラムはそのままクラッシュした。本人の言葉を借りれば：「それは動かない。」
では、どうやって動いたのか
ここに、この一件でもっとも味わい深い細部があるかもしれない。
作者はC++プログラマーではない。底層のコードにびっしりと書かれたベクトル命令を読み解くことはできない。しかし彼は一つのことをした。エラーメッセージをAIアシスタントのClaudeに投げ、「なぜクラッシュするのか？」と尋ねたのだ。
Claudeは他人のコードを読み通し、原因を診断した——彼のこのCPUは相手よりも古い世代でAVX2命令を欠いており、コードの中に二つの重要な計算経路があり、「AVX2がなければ通れない」と書き固められていたのだ。さらに悪いことに、この二つの経路はこっそりとスキップされる——プログラムは正常に動いているように見えるが、出力される結果はすでにでたらめの塊である。Claudeがこの現象を説明した原文は実に面白い：「モデルはタイ語、韓国語、文字化けした記号、英語の断片を、同じようにこだわりなく出力する。」脳に糊を流し込まれた人間のように、何でも口にするが、正しいことは一言もない、という具合だ。
そして作者は、さらに貴重なことをした。Claudeにもう二つのコード片を書き直させ、「必ずAVX2が必要」という硬性の要求を、「あれば使い、なければ低速の予備経路を通る」というものに改めさせたのだ。三つのパッチを当てると、モデルはでたらめの塊から、明瞭で流暢な英語の回答へと変わった。
この一連の過程で、作者が演じた役割は「実験者」であり「裁き手」——テストを走らせ、出力を見て、「この結果は正しいか」を判断する。実際にコードを書き換えたのは、別の機械の上の別のAIだった。
一台のAIが、別のAIの、古いハードウェア上でのコードを直した。十三年前のCPUと数ヶ月前にリリースされたモデルは、真ん中に立つ仲介者のもとで和解を果たしたのだ。
遅いが、十分だ
毎秒5文字とはどういうことか。ChatGPTの有料版は通常、毎秒30から60文字を吐き出し、速いときは100文字を超える。5文字というのは、おおむねあなたが電車の中でゆっくり記事を読む速度だ。
日常の雑談には確かに足りない。返事が来るまでに、お茶を一杯入れるのに十分な時間がある。だが作者はいくつかの実用的な場面を挙げている。有料API（プログラム用インターフェース）がダウンしたときの予備手段。あるいは、時間を急がないバッチ処理——たとえば一晩かけて一団の文書を処理させ、翌朝に結果を見る、といったものだ。こうした場面では、遅いことは問題ではなく、動くかどうかこそが問題なのだ。
HNコミュニティのなかには、もっと楽観的な予測をする者もいた。2027年の半ばまでには、2000億パラメータ以上の大規模モデルが普通の消費者向け機器の上で動くようになる、と。反対者は、パラメータが多いことと能力が強いことは同義ではなく、圧縮をやりすぎたモデルは品質が落ちると戒めた。だが両者の合意は明確だ：大規模モデルはクラウドの上から下へと沈みつつあり、その沈む速さは大多数の人の予想よりも速い。
超高額GPU vs 廃棄CPU
この二年、AI界には言わずもがなの等式があった。AIをやる＝グラフィックボードを買う＝金を焼く、である。NVIDIAのH100加速カード一枚が三、四万ドルで売られ、企業は数百枚、数千枚と買い込む。AIへの入場券は、正規の値札がついている。
だがこのブログは、違う窓を一つ開いた。300ドルの廃鉄が、加速カードを一枚も差さずに、260億パラメータの大規模モデルを動かしたのだ。それは代替案ではない——毎秒5文字では、クラウドサービスの速度と品質には遠く及ばない。それはむしろ一つの存在証明だ。敷居は思っているほど高くないこと、そして「最新のハードウェアが必須だ」という言葉が絶対の真理ではないことを証明する。
この緊張関係は、議論の場全体を貫いている。一方には超高額GPUが支えるクラウドAIの帝国——高速で、強力で、高価だ。もう一方には地下室の古いサーバー——遅く、不格好だが、タダだ。それは何かをひっくり返すわけでも、革命と呼べるほどのものでもない。しかしそれは確かに、AIを「お金を払って契約する」というデフォルトの選択肢から一時的に引き剥がし、人々に別の可能性を見せたのだ。
これが私たちと何の関係があるのか
あなたが十三年前のサーバーを買ってきて家でAIを動かすことは、おそらくない。だがこのブログが伝える本当のシグナルは、その300ドルという値札とはあまり関係がない。
真に注意すべきは、十三年の古い機械に再び命を吹き込んだ「過程」そのものだ。底層のコードを書けない一人の人間が、別のAIの助けを借りて、見知らぬ他人のコードを読み解き、極めて深く隠されたバグを特定し、パッチを書いた。それは「ワンクリック修復」の魔法ではない——作者は実験を繰り返し、出力を比べ、干渉要因を排除し、結果が正しいと確信するまでやり続けた。AIがもっとも難しい知的労働を担ったが、「それは果たして正しいか」を決めたのは、終始人間だった。
筆者は、これこそがこの一件でもっとも静かで、かつもっとも重要な部分だと思う。AIの推論能力がますます強くなるにつれ、「コードを書けるか」と「機械に正しいことをさせられるか」とのあいだに、距離が開きつつある。後者の能力は、ときとして、午前二時にエラーログをじっと見つめることを厭わないただ一人の人間でしかない。
そしてその人は、シリコンバレーのオフィスに座っている必要はない。地下室にいて、十三年前にはとっくに引退していてしかるべきサーバーを守っているかもしれない。
参考リンク：
- NeoMind Labs: Running Gemma 4 26B on a 13-year-old Xeon
- HN 議論 (item?id=48922434)
- “A 10 year old Xeon is all you need” 原文（本記事の着想元となったプロジェクト）