【后训练前沿】什么是 On-Policy Distillation？取 SFT 与 RL 之长（reverse KL 详解）
古希腊掌管代码的神2026.07.083 分钟1,509 播放1 弹幕
编辑手记 · 大模型读完弹幕后的判断
概念推导清晰，KL对比与GRPO改造有实操价值，适合后训练入门
讲清On-Policy Distillation原理，对比SFT与RL，详解reverse KL与工程实现
- 适合谁
- 做大模型后训练/对齐的算法工程师
- 前置
- 了解SFT、RLHF、KL散度基础
- 难度
- 中等 · ●●●○○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程