【概率视角】SFT 和 RLHF 竟是同一枚硬币的两面：正向 KL vs 反向 KL

编辑手记 · 大模型读完弹幕后的判断

推导清晰、有工程含义，短小但信息密度高，适合建立直觉

用正向/反向KL统一解释SFT与RLHF，并说明mode covering与mode seeking的差异

适合谁

大模型训练入门者与算法工程师

前置

KL散度、最大似然基础

难度

中等 · ●●●○○

时效

常青 · 现在看仍然成立

类型

教程