8月5日、データベース企業のNeonが衝撃的な検証結果を公開しました。アリババのオープンモデル「Qwen3.5」をベースに強化学習で微調整された40億パラメータ（4B）のオープン小規模モデルが、高度な「検索（Retrieval）」タスクでスコア1.447を記録。OpenAIの最上位モデルであるGPT-5.6 Sol（スコア1.369）を上回ったのです。小規模モデルが勝利を収め、しかもリクエストあたりのコストは相手の約1/100にとどまりました。
この発表はHacker Newsなどの技術コミュニティで200近いアップボートと活発な議論を呼び、驚嘆と同時に懐疑的な声も数多く上がっています。本記事では、AIにおける「検索」とは何か、100倍のコスト差はどのように計算されたのか、そしてこの検証結果が信頼できるものなのかを紐解きます。
検索（Retrieval）：AIが回答を導き出す第一歩
まず「検索（Retrieval）」という動作について解説します。AIアシスタントに「出張旅費の精算規定について教えて」と尋ねた際、AIは社内すべての文書を丸暗記して答えているわけではありません。適切な本棚から対象の冊子を取り出し、該当ページを開いて内容を読み上げる動作を行っています。この「正しい資料を探し出す」プロセスこそが検索です。
ChatGPTのようなAIツールの回答精度は、この検索の質に大きく左右されます。資料検索が正確であれば、その後の文章生成に多少の不備があっても致命的なエラーにはなりません。逆に検索が失敗すると、どれほど滑らかな文章であってもハルシネーション（幻覚）に過ぎなくなります。カスタマーサポートボットや社内ナレッジベースなど、膨大なマニュアルやチケットから適切な情報を引き出す企業向け用途では、この検索性能が決定的な差を生みます。
図：従来の検索（1回の検索で終了）とエージェント型検索（多段階検索による段階的アプローチ）の比較。出典：neon.com
従来は1回の検索で結果を出していましたが、現在の高度なAIは人間のように「検索し、結果を確認し、必要に応じて再検索する」という多段階（マルチターン）のプロセスを踏みます。Neonの推計によると、GPT-5.6 Solでこうした多段階検索を実行すると1回あたり10秒以上を要し、コストは約3セントかかります。検索の試行回数が増えるたびに高額な最上位モデルのトークンが消費されるため、検索は最もコストがかさむ工程の一つとなっていました。
なぜ「検索」タスクで小規模モデルが逆転できたのか
なぜオープンソースの小規模モデルが、閉鎖型の巨頭モデルを逆転する現象が「検索」で真っ先に起きたのでしょうか。理由は主に3つあります。
第一に、タスクのスコープが限定されている点です。検索の目的は「適切な資料を見つけ出す」ことに特化しています。万能な汎用能力を磨くよりも、単一の動作に集中させる方がはるかに訓練しやすくなります。Hacker Newsの議論でも「製造ラインの作業に博士号保持者を投入する必要はない」という例えが共感を呼んでいました。繰り返し実行される構造化された検索作業には、軽量で安価な専門モデルで十分対応できます。
第二に、評価基準が客観的である点です。資料を見つけられたかどうかの判定は機械的に自動評価できます。これにより効果的な強化学習（RL）が可能となりました。モデルに検索ツールを使わせ、試行錯誤のなかで成功に報酬を、失敗にペナルティを与えるトレーニングを数万回繰り返した結果、モデルは「いつ、何を検索すべきか」を学習しました。学習前は0.382だった報酬スコアが学習後は1.447へ急上昇しており、能力が実証実験を通じて着実に向上したことを示しています。零から大規模型を学習させることなく、オープンコミュニティの微調整技術が熟成している証左でもあります。
図：訓練ステップの進行に伴いモデルの平均報酬スコアが上昇する様子。出典：neon.com
第三に、データを企業内部に保持できる点です。自社文書を問題と解答のペアに自動変換し、パイプラインで微調整することで、独自の専用モデルを構築できます。外部にデータを送信する必要がないため、プライバシーやセキュリティの懸念も解消されます。
100倍のコスト差はどのように算出されたのか
「100倍安い」というフレーズはマーケティング文句のように聞こえますが、実際の数字を検証すると明確な根拠が存在します。
まずAPIのトークン単価を比較します。GPT-5.6 Solの単価は入力100万トークンあたり5ドル、出力100万トークンあたり30ドルと高額です。一方でオープン小規模モデルのホスティング費用は入力0.03ドル、出力0.15ドル程度であり、単価比で約160〜200倍の開きがあります。
次に単一リクエストあたりの実測コストです。Neonが提示した実測値では、GPT-5.6 Solを用いた1回の検索処理コストが約0.0873ドルであったのに対し、4B小規模モデルでは約0.00092ドルでした。その差は94.9倍であり、発表ではこれを丸めて「100倍」と表現しています。
図：横軸が1リクエストあたりのコスト、縦軸が評価スコア。左上ほど優れていることを示す。出典：neon.com
これを日常的な業務規模に換算してみます。1日10万回の検索処理を行う企業の場合、Solを使用すると1日あたり約8,700ドル（月額26万ドル以上）がかかりますが、専門小規模モデルを使えば1日わずか92ドルで済みます。処理量が百万規模に拡大した際、この100倍のコスト差は事業として成立するかどうかを左右します。 AI価格競争の主戦場は「大価格破壊」から「小規模モデルによる代替」へとシフトしています。
議論：ベンチマーク結果に対する両者の見解
最も鋭い批判は、テスト手法そのものに向けられています。今回の比較はNeonが自社生成したテストデータセットを用いて社内実施されたものであり、完全な問題集は非公開で、BEIRなどの標準的な公開ベンチマークも使用されていません。Hacker Newsのユーザーからは「ベンチマークは自社に有利なよう調整されがちだ」と零トラストの立場を示す声が相次ぎました。AI Pricing Guruの独立分析でも、数値の詳細ログが欠如しているため第三者による再現が困難であると指摘されています。
一方で、肯定的な見解も存在します。検索の採点基準自体は比較的客観的であり、学習曲線（0.382 → 1.447）は確かな能力向上を示しています。また、コミュニティの検証者からは「事実検索において巨大モデルは考えすぎて迷走しがちだが、特化型小規模モデルの方がストレートに必要な情報にたどり着く」という報告も寄せられています。トークン単価が200倍異なる点については疑いようのない事実です。
総合的に判断すると、「コストが100倍異なる」点は事実であり、「最上位モデルに並ぶ・勝つ」という主張は現状メーカー定義の特定環境下で成立していると捉えるのが妥当でしょう。ブログ本文に記載された単回コスト（約3セント）とグラフの数値（8.7セント）に食い違いが見られる点も、コスト算出基準の複雑さを物語っています。実際の運用環境における検索はテスト集よりも不確実性が高く、古い文書や曖昧なクエリに対応できるかは実運用での検証が必要です。複雑なコード記述や長文の論理推論といったタスクでは、依然として最上位モデルが圧倒的な優位性を保っています。
価格競争の次の主戦場
今回の事例が示した重要なトレンドは、AIの活用モデルが「何でもこなす巨大な万能モデル」から「特定の役割を安価にこなす専門モデルのアンサンブル」へと進化しつつあるという点です。これにより企業は社内ナレッジ検索やカスタマーサポートの運用コストを大幅に削減できるようになります。
業界全体として、価格競争の軸は単なる「トークン単価の値下げ」から「課題に応じて適切なサイズのモデルを割り当てる最適化」へと移行しています。オープンソースの小規模モデルが特定のタスクで巨大モデルに追いつくたび、閉鎖型APIの価格支配力は削がれていきます。検索はその皮切りに過ぎず、今後さまざまな領域で同様の現象が起きることが予想されます。
参考リンク：
- Neon ブログ：How Castform + Neon Beats Frontier Models on Price and Efficiency
- Hacker News 議論 (item?id=49186762)
- AI Pricing Guru：Castform Beats GPT-5.6 Sol: Cost Impact (August 2026)
