精选/计算机技术

09 Transformer 之什么是注意力机制(Attention)

水论文的程序猿-水导2022.06.2023 分钟17.4 万 播放954 弹幕

编辑手记 · 大模型读完弹幕后的判断

概念铺垫清晰、配套博客代码齐全,但对Q/K/V来源与K-V关系解释含糊,弹幕集中质疑

从人类视觉注意力切入,讲解Transformer中Q/K/V注意力计算的基本原理

适合谁
刚入门Transformer的深度学习学习者
前置
神经网络基础、向量点积与softmax
难度
轻量 · ●●○○○
时效
常青 · 现在看仍然成立
类型
教程

关于这份清单

让每一次观看,
都更有收获。

01

先筛选,再推荐

从 3,652 条候选中,经过相关性与质量规则筛选。

02

看见内容价值

结合互动信号、简介与弹幕,生成内容判断和观看理由。

03

找到适合你的

了解适合人群与前置知识,再决定从哪一课开始。