大模型微调看这个视频就够了 SFT NEFTune
RethinkFun2024.08.2313 分钟6.3 万 播放33 弹幕
编辑手记 · 大模型读完弹幕后的判断
有公式推导和代码实操,覆盖微调关键细节,可复用性强
讲解SFT微调中的ChatTemplate、Completion Only、NEFTune噪声增强及SFTTrainer代码实现
- 适合谁
- 想上手大模型SFT微调的开发者
- 前置
- PyTorch与Transformer基础
- 难度
- 中等 · ●●●○○
- 时效
- 有时效 · 部分工具已变
- 类型
- 教程


