卷积核可视化

概述

卷积核可视化是通过反卷积等技术将 CNN 内部激活映射回像素空间，揭示网络各层学到的特征表示。AlexNet 首次大规模展示了卷积核的可解释性。

关键内容

1. AlexNet 的可解释性发现：研究者可视化了 AlexNet 第一层卷积核学到的特征，发现它们自动学到了：(1) 各种方向的边缘检测器；(2) 颜色对比检测器（红-绿、蓝-黄等）；(3) 类似 Gabor 滤波器的纹理检测器。这些特征与人类视觉系统的底层特征高度相似。
2. 层次化特征表示：通过可视化不同层的激活，研究者发现 CNN 的特征表示是层次化的——第 1 层学习边缘和颜色，第 2 层学习纹理和角点，第 3-4 层学习物体部件（轮子、眼睛、毛皮），第 5 层学习整体概念（人脸、文字、花朵）。
3. ZFNet 的深化：2013 年，ZFNet（2013 论文） 使用反卷积（deconvolution）技术进一步改进了卷积核可视化方法，揭示了 AlexNet 中间层的特征表示，并基于可视化分析优化了网络架构。
4. 历史意义：卷积核可视化证明了深度网络并非"黑箱"——其学到的特征具有可解释性，且与人类视觉系统的层次化处理方式惊人地相似。这为 CNN 的可信度和后续的可解释 AI 研究奠定了基础。

来源

• [raw/articles/ai-papers/foundations/paper_03_alexnet.md] — AlexNet 论文精读

相关

• AlexNet — first_large_scale_demo
• ZFNet（2013 论文） — improved_by
• 卷积神经网络（CNN） — technique_for
• 深度学习（Deep Learning） — interpretability_of
• 计算机视觉 — application_domain