[Agentic RL] 10 分布的视角理解 LLM 的 SFT 训练和 RL 训练,Forward/Reverse KL,分布与奖励
五道口纳什2026.01.1016 分钟7,822 播放1 弹幕
编辑手记 · 大模型读完弹幕后的判断
有公式推导和配套notebook,能建立KL与策略优化的统一理解,值得看
从分布视角推导SFT与RL训练,讲透Forward/Reverse KL与奖励的关系
- 适合谁
- 做LLM对齐/RLHF的算法工程师
- 前置
- 概率论、KL散度、策略梯度基础
- 难度
- 偏硬 · ●●●●○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程
