09 Transformer 之什么是注意力机制(Attention)
水论文的程序猿-水导2022.06.2023 分钟17.4 万 播放954 弹幕
编辑手记 · 大模型读完弹幕后的判断
概念铺垫清晰、配套博客代码齐全,但对Q/K/V来源与K-V关系解释含糊,弹幕集中质疑
从人类视觉注意力切入,讲解Transformer中Q/K/V注意力计算的基本原理
- 适合谁
- 刚入门Transformer的深度学习学习者
- 前置
- 神经网络基础、向量点积与softmax
- 难度
- 轻量 · ●●○○○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程


