破解版 PS5 被改造成 AI 服务器：27B 模型跑出 20.9 token/s，一块显卡钱省了

一台破解后的索尼 PS5，最近被开发者改造成了本地 AI 推理服务器，跑 270 亿参数的大模型能到每秒 20.9 个 token。这个速度放在消费级设备里，已经相当能打了。

怎么做到的

据外媒报道，开发者 abhi245y 基于资深 AI 工程师 Mert Cobanov 的 PS5LM 项目（llama.cpp 的一个移植版本），把 PS5 的 AMD APU 利用了起来。PS5 用的是定制 Zen 2 CPU 加 RDNA 2 GPU，GPU 部分有 36 个计算单元，理论浮点性能约 10 TFLOPS——算不上强，但拿来跑量化后的大模型刚好够用。

关键点在于：llama.cpp 支持把模型权重切分到 CPU 和 GPU 内存里，PS5 有 16GB GDDR6 共享内存，通过量化（4-bit 或 5-bit）压缩后，27B 参数的模型勉强能塞进去。速度 20.9 token/s 意味着生成一段 200 字的中文回答大约要 20 秒，聊聊天够用，写长文就嫌慢了。

为什么这事值得关注

第一，它说明「本地跑大模型」的门槛在快速下降。两年前要在本地跑 7B 模型都得靠一张 24GB 显存的显卡，现在一台二手 PS5 加个破解就能跑 27B。

第二，破解设备被拿来干正经事，这种「废物利用」在开发社区里一直有传统——之前有人用树莓派做 NAS、用旧手机做监控摄像头，现在轮到游戏主机当推理盒子。

第三，也是最现实的一点：云 API 按量计费，本地推理按电费计费。如果你每天要跑几千次推理，电费成本可能比 API 便宜一个数量级。

要泼的冷水

破解主机风险不小：可能变砖、可能被索尼封号、保修直接作废。而且这套方案的速度和稳定性，远不如正经买张显卡。

但作为一次技术验证，它的意义在于告诉所有人：AI 算力的下限，比我们想的要低得多。

真正的门槛从来不是硬件，而是你想用它干什么。