36. 为什么推理时prefill是GEMM，而decode是（Batched）GEMV？【每天一个宝藏问题】
海安雨2026.03.033 分钟1.0 万 播放0 弹幕
编辑手记 · 大模型读完弹幕后的判断
3分钟讲透一个高频面试点，推导清晰、有PPT可复用，适合查漏补缺
解释LLM推理中prefill为GEMM、decode为GEMV的矩阵形状与并行度原因
- 适合谁
- LLM推理优化入门者
- 前置
- 矩阵乘法、Transformer基础
- 难度
- 轻量 · ●●○○○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程
