AIモデルをそのままシリコンウェハに「焼き付ける」技術を持つ企業が、半導体大手のAMDに買収された。2023年にトロントで設立されたスタートアップTaalas（ターラス）は、自社設計のチップが最上位GPUより48倍速くAIを実行し、毎秒1万7000トークンを出力しながら大幅な省電力を実現すると主張している。買収額は非公表で、取引は今年第4四半期に完了する予定だ。AI業界が「AIの実行コスト高」を巡って価格競争を繰り広げる中、AMDのこの買収はまったく異なるアプローチへの大きな賭けを意味している。
モデルとは何か：長い数字の列、そしてひとつのレシピ
「AIをチップに焼き付ける」ことを理解するには、まずAIモデルとは何かを知る必要がある。学習済みの巨大言語モデルの本質は、数億から数兆個に及ぶ数字の羅列であり、業界ではこれを「重み（パラメータ）」と呼ぶ。これらの数字が、AIの応答の仕方を決定づける。たとえば「今日の天気は」という入力に対して「どうですか」と続ける仕組みだ。例えるなら、モデルはレシピのようなものだ。小麦粉何グラム、砂糖何グラム、焼き時間何分といった数字の指定であり、調理手順のすべてがそこに詰まっている。
では、一般的なGPUはどのようにAIを動かしているのか？ GPUは「万能の調理器具」だ。調理台にレシピを広げ、食材を並べ、レシピを読みながら材料を計量し、同時に調理を進める。利点はどんな料理のレシピでも対応できることだ。しかし代償として、一品作るたびにレシピを読み直し、計量し直す必要があり、時間も電力も消費する。
Taalasは発想を転換した。レシピを直接フライパンの底に刻み込んだのだ。フライパン自体がその特定の料理の作り方を記憶しているため、レシピを読む必要も計量する必要もない。火をつければ即座に料理が完成する。この「フライパン」はある一つの料理——すなわち特定のAIモデルのためだけにカスタマイズされている。チップが工場から出荷された瞬間、モデルの数値は回路という物理的形態でシリコンの中に永久に固化される。このチップはそのモデル一つしか動かせず、他の処理は一切できないが、その単一モデルの実行速度は圧倒的だ。
図：TaalasのHC1デモンストレーションボード。モデルが回路の形でチップ内に固化されている。出典：taalas.com
毎秒1.7万トークン：一冊の本を十数秒で書き上げる
Taalasは単なる絵に描いた餅ではない。今年2月、同社はTSMCの6nmプロセスを採用した最初のテストチップ「HC1」をテープアウト（試作）した。そこにはMetaのオープンソースモデル「Llama 3.1 8B」（80億パラメータ）が刻み込まれている。実測テストでは毎秒1万7000トークンを生成した。トークンとはAIテキスト処理の最小単位で、1トークンは概ね0.5〜1単語に相当する。
このスピードが何を意味するのか、一般ユーザーの感覚で換算してみよう。ChatGPTなどの現在主流のサービスは、ユーザーに対して毎秒数文字〜数十トークン程度でテキストを出力しており、人間の目の追従スピードと同等だ。毎秒1.7万トークンとは、毎秒数万字の出力に相当し、10万字の単行本一冊をわずか10秒程度で生成し終える速度である。公式発表の比較ではNVIDIA製GPUの48倍の速度とされている。NVIDIA H200 GPUを基準（毎秒約230トークン）に計算すると1.7万トークンは約74倍に達する。比較基準によって数値は前後するが、桁違いの高速化であることに変わりはない。
図：Taalas公式による単一ユーザーあたりの毎秒トークン数比較（Llama 3.1 8Bモデル、NVIDIA H200基準）。出典：taalas.com
エンジニアリング視点からの判断として、これは単一ユーザー・単一モデルにおける理想的なテストデータであり、実際のデータセンター環境での性能はある程度割り引いて考える必要がある。しかし仮に半減したとしても、AI推論のコスト構造を根底から書き換えるには十分な数字だ。
なぜこれが価値を持つのか：AIの応答は毎回「金を燃やしている」
AI運用にはコストがかかる2つのフェーズが存在する。一つは「学習」で、モデルに大量のデータを読み込ませる工程だ。1回あたり数億ドル規模の巨額投資が必要だが、実行は1回限りに近い。もう一つは「推論」で、モデル運用後にユーザーの質問に答えるたびに行われる計算処理だ。こちらは永続的な継続コストとなる。ChatGPTに質問するたび、背後ではGPUがフル稼働し、莫大な電気代が消費されている。
推論コストこそが、AI普及における最大のボトルネックとなっている。過去2年間、各社は推論APIの値下げ合戦を繰り広げ、利益率を削ってシェアを獲得してきた。Taalasが提示したのはアーキテクチャによる解法だ。モデルをシリコンにエッチング（蝕刻）してしまえば、数百GBに及ぶ重みデータをメモリから何度も読み出して移動させる必要がなくなる。回路そのものがデータだからだ。Taalasは2月のインタビューで、モデルをシリコンにエッチングするコストはフロンティアモデルの学習コストの100分の1以下だと語っている。これは自社主張であり第三者検証は待たれるが、アプローチの方向性は妥当だ。試作コストがいかに高かろうと、千億パラメータ規模のモデル学習費用を上回ることはない。
万能調理器具 vs 専用鍋：2つのアプローチの対立
ここに至り、技術思想の対立が浮き彫りになる。
GPUは「汎用路線」だ。どんなモデルでも実行でき、モデルがアップデートされた場合もソフトウェアの更新だけで対応可能で、ハードウェアを差し替える必要はない。代償は効率性だ。「あらゆる計算に対応する」ため、回路内には使われない汎用ロジックが大量に含まれ、消費電力が大きく、発熱し、低速化する。
Taalasは「専用路線」だ。ただ一つのモデルのために設計されているため、回路は極限まで簡素化され、高速・省電力・低コストを実現する。代償は硬直性だ。チップが工場から出荷された時点で、モデルのバージョンは永久に固定される。ゲームカセットと同じ原理だ。挿せば即座に遊べ、ロード時間も極めて短い。しかし新作ゲームが出た場合、新しいカセットを購入するしかない。デジタル版ゲームならいつでもダウンロードしてアップデートできるが、待ち時間や帯域を消費する。
AIモデルの進化スピードは月単位だ。このチップに刻まれているのは2024年中半の旧型モデルであり、2年経った現在の標準からは既に型落ちしている。モデルが更新されても、チップ内の物理回路が自動的に変形することはない。軽微な調整ならオンザフライでパッチを当てる（業界で言うLoRAアダプターのようなもので、印字されたレシピに付箋を貼るような対応）ことが可能だが、大規模なモデル改変の場合はテープアウト（チップの再製造）からやり直す必要がある。Taalasによれば、モデル変更時は配線層（金属層）の2層のみを修正すればよいためゼロからの設計より遥かに安価だというが、それでも工場の生産ラインを通し、納品を待つ必要がある。どのモデルが「シリコンに刻む価値がある」と言えるのか？ それは大規模に検証され、長期運用に耐えうるモデルに限られる。賭けを外せば、サーバーラックいっぱいのチップがただの廃棄物と化す。
なぜAMDはこの賭けに出たのか
NVIDIAがAIチップ市場の大半を支配する中、AMDは何年も追撃を続けてきた。ハードウェアの性能面では追いつきつつあるものの、ソフトウェアエコシステムには依然として大きな壁が存在する。世界中のAIエンジニアがNVIDIAのCUDA環境に慣れ親しんでおり、プラットフォームの移行にはコードの書き換えが必要となる。エコシステム正面突破の勝率が低い中、AMDは戦場を変える選択をした。「モデル専用チップ」という新たな領域にリソースを集中させる判断だ。
ライバルも手をこまねいているわけではない。NVIDIAは昨年12月、推論チップ企業のGroqと200億ドル規模のライセンス契約を結び、まさに「AI推論の高速化と低コスト化」を狙っている。二大巨頭が同じ課題に対して、異なるアプローチで布石を打っている状況だ。
Taalasの創業者Ljubisa Bajic氏は、Tenstorrentの元CEOであり、かつてAMDにも在籍していた経歴を持つ。今回の買収は古巣への復帰という意味合いも帯びている。チームはAMDのAI部門へと合流する。The Registerの分析によれば、AMDの狙いはTaalasの専用チップと自社のInstinct GPUを組み合わせるハイブリッド構成にあると推測されている。GPUが質問の初期処理（コンテキスト解析）を担当し、Taalasチップが超高速な回答生成を担うという役割分担だ。AMDの公式コメントは控えめで、「あらゆるAIワークロードに対して最適な計算ソリューションを提供する」と述べるにとどまっている。
図：Taalas公式サイトの製品デモ画面。出典：taalas.com
一般のユーザーにとって何を意味するのか
AIの運用コストは、最終的にユーザーが支払うサービス価格に反映される。もしモデルの直接刻印によって推論コストが一桁下がれば、AIはより安価で高速になり、スマートフォンやテレビ、自動車、家電製品など、これまでラック型GPUサーバーを搭載できなかったデバイスへ浸透していく可能性がある。
Hacker Newsの議論スレッドでは「Appleがこの会社を買収してiPhoneのチップにAIモデルを組み込めば、バッテリーをほぼ消費せずに即答するAIアシスタントが実現するのではないか」というコメントが見られた。自然な着想ではあるが、現実化にはまだ距離がある。HC1テストボード自体がかなりのサイズであり、刻まれているのも2年前のモデルだ。スマートフォンに型落ちモデルの回路が固定化された場合、最新モデルが登場した際に「スマホごと買い替えるのか？」という疑問が生じる。
この技術アプローチの対立にまだ結論は出ていない。汎用GPUは「モデルは進化し続ける」という前提に賭け、専用チップは「長期間生き残る中核モデルが存在する」という前提に賭けている。前者は柔軟性を、後者は極限の効率性を追求している。勝敗を決するのは、モデルの進化速度とチップの固化コストのスピードレースだ。第4四半期の買収完了後、AMDは自らの資本をもって最初の回答を示すことになるだろう。
参考リンク：
- The Register: AMD acquires AI chip startup Taalas to boost inference performance by etching models into silicon
- Hacker News: AMD acquires Taalas 討論スレッド (item?id=49201970)
- AMD 公式プレスリリース: AMD Acquires Taalas to Advance Compute Solutions for Rapidly Growing AI Inference Market
- CNBC: AMD buys Taalas, startup that hardwires AI models into its silicon
- EE Times: AI Chip Startup Taalas Acquired By AMD
- Taalas 公式サイト: HC1 Technology Demonstrator 製品ページ
- Medium: A Look at Taalas’ HC1 Chip Reaching 16,000 Tokens per Second
