DeepSeek V4 Flash 0731 原版推测解码45ts,双epyc 7642,ddr4 16通道,双3090
爱跳绳的乃龙2026.08.0113 分钟2.8 万 播放2 弹幕
编辑手记 · 大模型读完弹幕后的判断
硬件配置与参数细节具体可复现,但偏单次跑分记录,缺横向对比
双路EPYC+双3090实测DeepSeek V4 Flash推测解码,45t/s与268k上下文配置
- 适合谁
- 本地部署大模型的折腾玩家
- 前置
- 了解vLLM推理与KV cache
- 难度
- 偏硬 · ●●●●○
- 时效
- 有时效 · 部分工具已变
- 类型
- 实战


