破解后的索尼PS5有了运行本地大模型的新方案。据IT之家10月17日援引Wccftech报道,开发者abhi245y基于AI工程师Mert Cobanov的PS5LM项目,开发了原生GPU应用PS5LM Plus,可在主机上运行Qwen3.8-27B等模型。

这次改动的重点是让GPU参与推理。PS5LM是llama.cpp移植项目,早期版本主要依靠CPU,运行27B参数模型时平均每分钟只能生成约1个token。abhi245y移植了Mesa开源项目中的AMD RADV驱动,通过Vulkan计算接口,让llama.cpp作为原生应用在PS5上运行。

据报道,这项改动将可用内存从约6GB提升至11.4GB,使主机能够运行高度量化的Qwen3.8-27B。该模型的测试生成速度达到每秒20.9个token,期间GPU使用率达到100%,CPU使用率为2%。较小模型的测试速度更高:Gemma 4 E4B约为每秒61个token,Llama 3.2 3B达到每秒124个token。

PS5LM Plus还内置网页聊天界面,并能通过局域网8081端口提供API服务。同一网络中的其他设备可以访问页面,与主机上的模型对话。项目兼容OpenAI和Anthropic API,供opencode、Codex、Claude Code等工具调用PS5上运行的模型。

这套方案的适用前提是经过破解的PS5,而非普通主机直接安装使用。报道指出,运行原生版llama.cpp需要先对PS5越狱,可能面临游戏机及PSN账号被封禁等风险;主机配备的16GB统一内存也仍会限制模型选择和运行质量。

原始来源:开发者将破解后的索尼 PS5 当作本地 AI 服务器:利用 GPU 加速运行 27B 参数 Qwen3.8-27B 模型,速度达 20.9 token/s