[LLM Architect] 10 为什么LLM无法理解输出马嘉祺,深入理解Glitch(故障)Token,词嵌入漂移、SFT/RL、gradient 视角
五道口纳什2026.05.1024 分钟2.0 万 播放2 弹幕
编辑手记 · 大模型读完弹幕后的判断
有代码notebook与多期前置串联,体系化解释故障token机理,可复用性强
从Glitch Token现象切入,讲词嵌入漂移、SFT/RL与梯度视角的成因分析
- 适合谁
- LLM原理进阶学习者
- 前置
- 词嵌入、交叉熵、梯度基础
- 难度
- 偏硬 · ●●●●○
- 时效
- 有时效 · 部分工具已变
- 类型
- 教程