Qwen3.5 122B 原版BF16 2100t每秒

编辑手记 · 大模型读完弹幕后的判断

有真实硬件与实测数据，但缺乏系统讲解，弹幕质疑速度口径，参考价值有限

双路EPYC+双3090本地跑Qwen3.5 122B BF16，实测吞吐与硬件配置展示

适合谁

关注本地大模型部署的玩家

前置

了解vLLM与量化推理

难度

中等 · ●●●○○

时效

有时效 · 部分工具已变

类型

测评