脱獄PS5で27Bモデルが稼働:11.4GB共有VRAMが切り拓くローカルLLM推論

脱獄PS5で27Bモデルが稼働:11.4GB共有VRAMが切り拓くローカルLLM推論

PS5llama.cppLLM推論ユニファイドメモリ脱獄

データソース:HN + web research · HN

16GB共有メモリから11.44GiBのGPUデバイスヒープを切り出す

2026年10月16日、開発者のcobanov氏がオープンソースプロジェクト「PS5LM v0.9.0」を公開しました。発売から約6年が経過したPlayStation 5上でllama.cppをネイティブ稼働させ、本体内蔵のRDNA 2アーキテクチャGPUを直接叩いてモデル推論を実行する仕組みです。リビングに置かれていた家庭用ゲーム機が、実質11.44 GiBのVRAMを備えたローカル推論ノードへと姿を変えました。

PS5LMにおける最大の技術的ブレイクスルーは、統合メモリとGPU間のダイレクトパスを確立した点にあります。PS5は16 GBのGDDR6を搭載し、CPUとGPUが同一バスを共有することで理論帯域448 GB/sを誇ります。プロジェクトではオープンソースのps5-payload-devツールチェーンを用いてクロスコンパイルを行い、llama-serverをメモリ制限の厳しい旧来のペイロードではなく、本体に正規インストールされるネイティブタイトル(title ID PPSA99581)としてパッケージングしました。

この設計判断が利用可能なVRAM上限を決定づけました。一時的なペイロード形態では内部で64 MiB程度のビデオバッファしか確保できず、12 GiBに及ぶメインダイレクトメモリやGPUへの直接アクセス権が得られませんでした。ネイティブタイトル化によって初めて大容量VRAMを確保できるようになり、27Bモデルの稼働が現実のものとなったのです。

計算パイプラインには、Mesaをベースに再構築された非公式RADV Vulkanドライバとggml-Vulkanバックエンドが採用されています。RADVドライバはこの共有メモリを11.44 GiBの単一GPUデバイスヒープとして認識します。統合メモリアーキテクチャにより、ディスクリートGPUで発生するPCIeバス経由の重み転送オーバーヘッドが完全に排除されます。 メモリマッピング完了後の重み読み込み速度は、本体SSDとシステムバスの物理スループットのみに律速されます。

同価格帯のコンシューマー向けPC用グラフィックスカードの多くは8 GBのVRAMにとどまり、この容量制限が大規模ローカルモデルの起動を阻む最大の障壁となっています。PS5が提供する11.44 GiBの空きVRAMは、パラメータ規模の大きなモデルを動かす物理的な制約をクリアしました。

27Bモデルで実測20 tok/s、64kコンテキストを維持

PS5 Slim実機での検証では、パラメータ規模に応じた明確な性能特性が確認されています。4096コンテキスト設定において、0.8BのQwen3.5はわずか0.5 GBのVRAM消費で207 tok/sのデコード速度を記録。5.3 GBを消費する9Bモデルでも55 tok/sの生成速度を維持しました。こうした軽量モデルはゲーム機ハードウェア上で極めて高いスループットを発揮し、高頻度な対話用途も難なくこなします。

実用上の最大負荷となるのが27Bクラスの大規模モデルです。テスト結果によると、Qwen3.8 27B UD-Q2_K_XL版は9.2 GBのVRAMを占有し、実測20 tok/sのデコード速度を達成しました。残余メモリにより最大64kトークンの長大なコンテキスト長を保持可能です。秒間20トークンという生成レートは、リアルタイム対話における快適なユーザー体験の基準値を十分にクリアしています。

量子化フォーマットの選択も実スループットに直結します。27BのIQ2_XXSフォーマットは容量を抑えられる反面、デコード速度は約15 tok/sにとどまります。一方のUD-Q2_K_XLはVRAMを若干多く消費するものの、20 tok/sの速度と安定したテキスト品質を両立します。軽量な視覚認識タスクでは、d1 Omni 600Mが1.1 GBのVRAMを使い、3つの質問に対する推論をわずか0.3秒で完了しました。

ダッシュボードトップ 図:ダッシュボード画面。現在ロードされているモデル、生成速度、リアルタイムリクエスト状況を表示。出典:PS5LMリポジトリ。

PS5LMは推論完了ごとに、プロンプト評価(Prefill)時間とデコード速度を個別に表示します。初期のネイティブタイトルビルド(10月9日)では、27BのUD-IQ2_XXS重みのロードに82秒を要し、デコード速度は9〜21 tok/sの間で推移していました。テレメトリを詳細に可視化することで、性能ボトルネックがメモリ帯域によるものか演算能力の飽和によるものかを正確に切り分けられます。

デュアルAPIを内包し常駐型ホームコンピュートノードへ

低レベルな推論を実行できるだけでは、日々の開発ワークフローには定着しません。PS5LMはWebサーバーを内包しており、PS5をLAN内の共有推論ゲートウェイとして機能させます。OpenAIおよびAnthropicの双方の標準API仕様に互換性があり、Claude Codeなどのローカル開発ツールからもエンドポイントを切り替えるだけで家庭内ゲーム機の推論能力を透過的に呼び出せます。

コンソール画面 図:Webコンソール画面。消費電力、温度、GPU/CPU負荷カーブをリアルタイム監視。出典:PS5LMリポジトリ。

Webコンソールはモデルのスケジューリングを担うと同時に、テレビ画面に常駐させる監視モニターとしても機能します。画面上には本体温度、消費電力、プロセッサ負荷カーブがリアルタイムにプロットされ、2分間および1時間の表示レンジを切り替え可能です。軽量な意思決定ルーティング向けには、/v1/systemoneインターフェースを介したOllayaルーティングも用意されています。

初回モデル読み込み時には、LM Studioで広く使われているサンプリングプリセットが自動同期され、Temperatureやペナルティ設定がそのまま引き継がれます。汎用的なGGUFフォーマットの採用により、特定エコシステムへの囲い込みからも解放されています。 開発者は既存の量子化ファイルをコピーするだけで即座に動かせ、煩雑な形式変換作業を必要としません。

モデル管理 図:モデル管理画面。ローカルに配置されたGGUF重みファイルの保存と切り替えに対応。出典:PS5LMリポジトリ。

ファームウェア制限と非公式ドライバが引き上げる運用の壁

ゲーム機を推論サーバーへと仕立て上げるには、特有の厳しい環境制限を受け入れる必要があります。PS5LMの動作には、ファームウェアバージョン7.00から13.60の範囲内にある脱獄済みPS5が必須となります。最新の公式ファームウェアが稼働する個体では未署名ペイロードを実行できません。ハードウェア入手の難しさは、GPUの購入競争から「適切なバージョンを保持した本体の探索」へと置き換わっています。

多層的なツールチェーンは日常運用の安定性にも影を落とします。実行環境の立ち上げにはkstuff-liteカーネルパッチやetaHENなどの拡張コンポーネントを順次ロードしなければなりません。非公式移植のRADVドライバは高並行負荷におけるエンタープライズ水準の耐障害性を持たず、ドライバクラッシュがカーネルパニックを引き起こして電源断と再脱獄を余儀なくされるケースも散見されます。

一方で、プロジェクトは法的なコンプライアンス境界を慎重に見極めて構築されています。リポジトリ内にはソニー独自のSDKコード、暗号化キー、抽出された公式ファームウェア等は一切含まれていません。RADVドライバのビルドもユーザーの本体内部でオンデバイス実行され、知的財産の再配布リスクを回避しています。ライセンスにはGPL-3.0が適用され、コミットログにはClaude Opus 5.5が共同開発者として名を連ねています。

ローカルAIの主戦場はチップからドライバと権限へ

PS5LMは、市販コンシューマーハードウェアに眠る広帯域統合メモリの真価を白日の下に晒しました。PS5に積まれた16 GBのGDDR6ユニファイドメモリは、27Bモデルの実用推論を支えるに十分なポテンシャルを持っています。ローカルAI運用のボトルネックは、純粋なハードウェア性能の不足から、ドライバスタックの開放度やファームウェアの実行権限へとシフトしつつあります。

20 tok/sという速度は、軽作業のAIアシスタント用途として十分な実用性を備えています。しかし、成熟した公式コンピューティングエコシステムが提供されない限り、基幹業務を支えるインフラとして活用するのは容易ではありません。低レイヤーインターフェースの開放が進まない限り、リビングルームのゲームハードは今後もしばらく「ギークの高度な実験場」にとどまることになりそうです。

参考リンク:

  • PS5LM GitHubリポジトリ
  • Hacker News コミュニティディスカッション