16GB 共享内存直接切出 11.44GiB 设备堆
2026 年 10 月 16 日，开发者 cobanov 发布了开源项目 PS5LM v0.9.0。该项目让发售近六年的 PlayStation 5 原生运行 llama.cpp。它直接调用主机内置的 RDNA 2 架构 GPU 进行模型推理。一台原本用于客厅娱乐的游戏机，变成了拥有 11.44 GiB 显存的本地推理节点。
PS5LM 的工程核心在于打通统一内存与图形处理器的直连路径。PS5 配备 16 GB GDDR6，CPU 与 GPU 共享同一条总线，理论带宽 448 GB/s。项目用开源的 ps5-payload-dev 工具链交叉编译，把 llama-server 打包成主机上正常安装的原生应用（title ID PPSA99581），而不是早先那种内存受限的 payload。
这处选型直接决定了显存上限。payload 形态下，开发者只能在 payload 内部拿到 64 MiB 级别的视频缓冲，12 GiB 的主 direct memory 和 GPU 访问权都拿不到。改成 title 之后模型才装得进显存，27B 方案也正是靠这一步成立。
在计算管线适配上，项目引入基于 Mesa 重构的非官方 RADV 驱动，配合 ggml-Vulkan 计算后端工作。RADV 驱动把这块共享内存直接识别为 11.44 GiB 的单个 GPU 设备堆。统一内存架构省去了传统独显跨总线搬运权重的额外开销。 映射建立后，权重加载仅受固态硬盘与总线读取速度约束。
同价位的消费级 PC 独立显卡通常只提供 8 GB 显存。显存容量往往直接决定了本地大模型能否启动。PS5 拿出的 11.44 GiB 可用显存空间，为运行大参数量模型清除了物理层面的阻碍。
27B 模型实测 20 tok/s 且保留 64k 上下文
在 PS5 Slim 机型上，不同参数规模的模型表现出明确的性能梯队。在 4096 上下文设置下，0.8B 规模的 Qwen3.5 仅占用 0.5 GB 显存，解码速度达到 207 tok/s。占用 5.3 GB 显存的 9B 模型，生成速度维持在 55 tok/s。这类轻量模型在主机上的吞吐表现出色，能够从容应对高频交互。
显存调度的承载上限落在 27B 级别的大模型上。测试显示，Qwen3.8 27B UD-Q2_K_XL 版本占用 9.2 GB 显存，实测解码速度达到 20 tok/s。充裕的剩余显存支持系统维持长达 64k 的上下文长度。每秒 20 个 token 的生成速率恰好越过了实时交互的体验基准。
量化格式的选择对主机的实际吞吐产生直接影响。27B 的 IQ2_XXS 格式虽然节省空间，但解码速度约为 15 tok/s。UD-Q2_K_XL 方案多花一点显存，换回 20 tok/s 的解码速率与更稳的文本质量。针对轻量视觉任务，d1 Omni 600M 占用 1.1 GB 显存，完成 3 个问题仅需 0.3 秒。
图：面板首页展示当前加载的模型、生成速度与实时请求。来源：PS5LM 项目仓库。
PS5LM 在每次推理响应后会分别输出预填充耗时与解码速率。首个原生应用构建（10 月 9 日）里，27B 的 UD-IQ2_XXS 权重加载耗时 82 秒，解码速度在 9 到 21 tok/s 之间波动。拆分监测数据让使用者能够准确判断性能短板是带宽受限还是算力饱和。
封装双 API 充当家庭常驻算力节点
单纯跑通底层调用无法解决实际开发中的集成需求。PS5LM 内置了 Web 服务，把主机转变为局域网共享推理网关。系统同时兼容 OpenAI 与 Anthropic 的标准接口定义。本地编程工具 Claude Code 只需重定向端点地址，便能无缝调用主机算力。
图：控制台页面实时监控主机功耗、温度以及 GPU 和 CPU 负载曲线。来源：PS5LM 项目仓库。
Web 控制台承担了模型调度任务，同时可作为电视常驻监控看板。控制台页面实时绘制主机温度、功耗及处理器负载曲线。系统支持在最近 2 分钟与 1 小时间隔间切换观察窗口。对于轻量决策任务，项目还通过 /v1/systemone 接口引入了 Ollaya 路由。
系统在初次加载模型时，会自动同步 LM Studio 的常用采样预设。常见的采样温度与生成惩罚参数均得到完整继承。通用的 GGUF 权重格式让模型迁移脱离了生态绑定的困境。 开发者可以直接拷入现成量化文件，省去了格式转换的繁琐流程。
图：模型管理页面支持存储与切换本地 GGUF 权重文件。来源：PS5LM 项目仓库。
固件封锁与驱动断代抬高维护门槛
将家用游戏机改造为推理服务器必须面对苛刻的环境限制。PS5LM 依赖处于 7.00 至 13.60 固件区间的已越狱设备。运行最新官方系统的机器无法执行未签名载荷。硬件准入门槛从挑选显卡硬件，转移到了搜寻特定系统版本的主机。
复杂工具链让系统的日常稳定性面临严峻考验。启动环境必须依序加载 kstuff-lite 内核补丁与 etaHEN 等扩展组件。非官方适配的 RADV 驱动在高并发负载下缺乏工业级的容错保障。驱动崩溃常常引发内核挂起，迫使机器经历断电与重新越狱。
项目在工程构建上严格保持了合规红线。仓库内不包含任何索尼专有 SDK 文件、密钥或提取出来的官方固件。RADV 驱动代码在用户主机内部现场编译完成，避开了知识产权分发风险。开源协议采用 GPL-3.0，提交记录中还将 Claude Opus 5.5 标为共同作者。
本地算力竞争焦点转向驱动与固件权限
PS5LM 展现了消费级硬件中沉睡的高带宽统一内存潜力。PS5 拥有的 16 GB 统一 GDDR6 内存，足以支撑 27B 模型的日常推理。本地大模型的部署障碍，正在从显存硬件不足转向驱动支持与固件权限。
20 tok/s 的解码速率胜任轻量辅助任务。但缺乏成熟的计算生态，难以承担主力生产。在底层接口持续封锁的环境下，客厅硬件很难走出极客玩具的定位。
参考链接：
- PS5LM 项目仓库
- Hacker News 社区讨论
