【中英双语】ChatGPT背后的数学原理是什么？带你看懂Transformer模型的数学矩阵实现！
StatQuest2024.10.2523 分钟15.4 万 播放191 弹幕
编辑手记 · 大模型读完弹幕后的判断
体系清晰、逐矩阵推导，能对应到代码实现，适合打牢底层理解
逐步拆解Transformer中QKV、自注意力、残差与位置编码的矩阵运算实现
- 适合谁
- 想深入理解Transformer的开发者与学习者
- 前置
- 线性代数基础、神经网络入门
- 难度
- 中等 · ●●●○○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程
同一主题 · Transformer
52:32教程Transformer
《Attention is all you need》论文解读及Transformer架构详细介绍
体系完整、推导细致，配合论文笔记仓库可复现，是入门Transformer的优质中文讲解
1:45:12教程Transformer
从编解码和词嵌入开始，一步一步理解Transformer，注意力机制(Attention)的本质是卷积神经网络(CNN)
体系完整、推导细致，把注意力机制讲透，可复用性强，值得系统学习
11:16教程Transformer
Transformer是什么？2017年那篇“无人问津”的论文，为何成了今天AI爆炸的起点？10分钟速通AI论文天花板《Attention is all you
概念覆盖完整、节奏紧凑，适合建立整体框架；细节推导略快，需配合论文或课程