Transformer中Self-Attention以及Multi-Head Attention详解
霹雳吧啦Wz2021.06.2018 分钟21.8 万 播放690 弹幕
编辑手记 · 大模型读完弹幕后的判断
推导连贯、有手算示例，适合入门理解机制；但缺位置编码与代码实操
逐步推导Self-Attention与多头注意力的矩阵运算过程，含QKV来源与维度讲解
- 适合谁
- Transformer初学者、考研/科研入门
- 前置
- 线性代数、神经网络基础
- 难度
- 中等 · ●●●○○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程
同一主题 · Transformer
52:32教程Transformer
《Attention is all you need》论文解读及Transformer架构详细介绍
体系完整、推导细致，配合论文笔记仓库可复现，是入门Transformer的优质中文讲解
1:45:12教程Transformer
从编解码和词嵌入开始，一步一步理解Transformer，注意力机制(Attention)的本质是卷积神经网络(CNN)
体系完整、推导细致，把注意力机制讲透，可复用性强，值得系统学习
11:16教程Transformer
Transformer是什么？2017年那篇“无人问津”的论文，为何成了今天AI爆炸的起点？10分钟速通AI论文天花板《Attention is all you
概念覆盖完整、节奏紧凑，适合建立整体框架；细节推导略快，需配合论文或课程