单卡5090,10小时预训练+SFT+DPO训练出能聊天、ToolCall的大模型
AI桐木2026.06.1411 分钟1.7 万 播放2 弹幕
编辑手记 · 大模型读完弹幕后的判断
完整走通预训练到对齐三步,基于MiniMind纯PyTorch,可复现可复用
单卡5090用3元从零训练64M小模型,覆盖预训练、SFT、DPO全流程
- 适合谁
- 想动手训小模型的开发者
- 前置
- PyTorch基础、了解Transformer
- 难度
- 中等 · ●●●○○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 实战
编辑手记 · 大模型读完弹幕后的判断
完整走通预训练到对齐三步,基于MiniMind纯PyTorch,可复现可复用
单卡5090用3元从零训练64M小模型,覆盖预训练、SFT、DPO全流程
关于这份清单
从 3,652 条候选中,经过相关性与质量规则筛选。
结合互动信号、简介与弹幕,生成内容判断和观看理由。
了解适合人群与前置知识,再决定从哪一课开始。