开发者推出PS5LM Plus,破解版PS5本地运行27B参数大模型达20.9 token/s

对于一台主要面向游戏设计的主机而言,PS5 能够充当本地 AI 服务器,为大模型推理提供 GPU 加速,展示了其硬件在游戏之外的应用潜力。

据外媒 Wccftech 报道,开发者 abhi245y 基于资深 AI 工程师 Mert Cobanov 的 PS5LM 项目,开发了原生 GPU 应用 PS5LM Plus,使经过破解的 PS5 主机能够在本地运行 Qwen3.8-27B 等大型语言模型,生成速度达到每秒 20.9 个 token。

PS5LM 的早期版本主要依靠 CPU 运行模型,执行 27B 参数模型时平均每分钟只能生成约 1 个 token,实用性有限。为提升性能,abhi245y 移植了 Mesa 开源项目中的 AMD RADV 驱动,并通过 Vulkan 计算接口让 llama.cpp 作为原生应用在 PS5 上运行。这一改动将可用内存从约 6GB 提升至 11.4GB,使主机能够承载经过高度量化的 Qwen3.8-27B 模型。

性能提升主要得益于 PS5 较高的内存带宽(448GB/s)。测试数据显示,运行 Qwen3.8-27B 时 GPU 使用率达到 100%,CPU 使用率仅为 2%。对于规模更小的模型,PS5 还能实现更高的生成速度:Gemma 4 E4B 约为每秒 61 个 token,Llama 3.2 3B 则达到每秒 124 个 token。

除 GPU 加速推理外,PS5LM Plus 还内置网页聊天界面,并可通过局域网 8081 端口提供 API 服务,用户能在同一网络中的其他设备上访问页面并与本地模型对话。该项目同时兼容 OpenAI 和 Anthropic API,便于 opencode、Codex、Claude Code 等工具调用 PS5 上运行的模型。

从行业视角看,这一项目展示了游戏主机硬件在 AI 推理场景中的再利用可能。PS5 搭载的 AMD APU 具备统一内存架构与较高带宽,在高度量化的小参数模型上具备一定可行性。但该机配备的 16GB RAM 统一内存仍限制了模型选择与运行质量,难以支撑更大参数或更高精度的模型。

此外,运行原生版 llama.cpp 需先对 PS5 进行越狱,存在游戏机及 PSN 账号被封禁的风险,该项目目前更适合作为技术验证,而非可规模化部署的本地 AI 方案。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
特斯拉司机开启 FSD 后睡着,车辆冲入封闭车道撞飞警车致加州两名巡警重伤
上一篇 3小时前
宇树科技展示中心在天津经开区建成投用,一层展厅面积超1100平方米
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部