【动手学习大模型 12.1/12】SFT 一行一行代码实现并跑通 ,让所有人都能学会大模型 SFT(有较好基础同学不推荐观看)
袁朝发2024.10.2614 分钟2.1 万 播放110 弹幕
编辑手记 · 大模型读完弹幕后的判断
代码级实操完整可复现,适合入门;但弹幕指出loss掩码细节存疑,需自行核对
逐行手写实现SFT训练流程并跑通,含数据构造与loss计算
- 适合谁
- 想动手做SFT的初学者
- 前置
- PyTorch基础、了解Transformer
- 难度
- 中等 · ●●●○○
- 时效
- 有时效 · 部分工具已变
- 类型
- 教程


