从编解码和词嵌入开始，一步一步理解Transformer，注意力机制(Attention)的本质是卷积神经网络(CNN)
王木头学科学2024.04.071 小时 45 分37.5 万 播放2,395 弹幕
编辑手记 · 大模型读完弹幕后的判断
体系完整、推导细致，把注意力机制讲透，可复用性强，值得系统学习
从编解码、词嵌入讲到Transformer注意力，用矩阵视角解释QKV与CNN关联
- 适合谁
- 想深入理解Transformer的AI学习者
- 前置
- 线性代数、神经网络基础
- 难度
- 偏硬 · ●●●●○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程
同一主题 · Transformer
52:32教程Transformer
《Attention is all you need》论文解读及Transformer架构详细介绍
体系完整、推导细致，配合论文笔记仓库可复现，是入门Transformer的优质中文讲解
11:16教程Transformer
Transformer是什么？2017年那篇“无人问津”的论文，为何成了今天AI爆炸的起点？10分钟速通AI论文天花板《Attention is all you
概念覆盖完整、节奏紧凑，适合建立整体框架；细节推导略快，需配合论文或课程
56:52教程nanoGPT
LLMs-Zero-to-Hero，完全从零手写大模型，从数据处理到模型训练，细节拉满，一小时学会。 build a nanoGPT from scratch
代码逐行实现且讲解细节，可复用性强，但需Transformer基础