DeepSeek R1-671B全量运行!真正满血!仅需一张16G显存显卡! 人人都能拥有 671B Q4量化 Ktransformers架构 单卡4090运行
春日野穹b2025.02.117 分钟38.7 万 播放142 弹幕
编辑手记 · 大模型读完弹幕后的判断
真实本地部署演示,硬件门槛和速度都讲清楚了,但445秒偏短,部署细节不足
用Ktransformers把FFN放CPU,单卡4090+480G内存跑DeepSeek-R1 671B Q4,实测6-8 token/s
- 适合谁
- 想本地跑大模型的硬件玩家
- 前置
- 了解量化、显存与内存分工
- 难度
- 偏硬 · ●●●●○
- 时效
- 有时效 · 部分工具已变
- 类型
- 实战


