知识蒸馏开山之作论文精读：Distilling the knowledge in a neural network
同济子豪兄2022.02.222 小时 4 分10.8 万 播放699 弹幕
编辑手记 · 大模型读完弹幕后的判断
论文精读加代码复现，体系完整，蒸馏温度与软标签机理讲得透，可复用性强
精读Hinton知识蒸馏开山论文，逐句讲解并用PyTorch实现MNIST蒸馏实验
- 适合谁
- 想入门模型压缩与蒸馏的算法工程师/研究生
- 前置
- 深度学习基础、PyTorch、softmax与交叉熵
- 难度
- 中等 · ●●●○○
- 时效
- 常青 · 现在看仍然成立
- 类型
- 教程
