【手把手带你实战HuggingFace Transformers-低精度训练篇】LLaMA2训练细节补充
你可是处女座啊2023.11.0415 分钟8,554 播放44 弹幕
编辑手记 · 大模型读完弹幕后的判断
有具体bug复现与修复思路,代码开源可复现,适合动手跟练
补充LLaMA2低精度训练细节,修复上期疏漏,含pad_token与eos_token不一致等踩坑排查
- 适合谁
- 已入门LLM微调的开发者
- 前置
- PyTorch与Transformers基础
- 难度
- 中等 · ●●●○○
- 时效
- 有时效 · 部分工具已变
- 类型
- 实战