特征可视化

概述

特征可视化是将深度学习网络内部学到的特征表示转换为人类可理解的图像的技术，AlexNet 首次展示了卷积核自动学到的边缘、纹理和物体部件检测器。

关键内容

1. AlexNet 的突破性发现：研究者可视化了 AlexNet 第一层卷积核学到的特征，发现它们自动学到了：各种方向的边缘检测器、颜色对比检测器（红-绿、蓝-黄等）、类似 Gabor 滤波器的纹理检测器。这些不是人工设计的——网络从数据中自动学到了与人类视觉系统相似的底层特征。
2. 层次化特征：可视化揭示了 CNN 的层次化表征规律——第 1 层学边缘/颜色，第 2 层学纹理/角点，第 3-4 层学物体部件（轮子、眼睛、毛皮），第 5 层学整体概念（人脸、文字、花朵）。这与 Hubel & Wiesel 对猫视觉皮层的研究惊人地一致。
3. 可视化方法：主要有三种方法——(1) 直接可视化卷积核权重：将卷积核的权重映射为颜色/灰度图像；(2) 最大激活图像：找到使某个神经元激活最大的训练图像；(3) 梯度上升生成：从随机噪声出发，通过梯度上升优化输入图像以最大化目标神经元激活（Zeiler & Fergus 2013）。
4. 后续发展：ZFNet（2013 论文） 使用反卷积网络（DeconvNet）做了更精细的可视化；Grad-CAM（2016）实现了类别激活映射；Feature Visualization（Olah et al. 2017）系统研究了神经元的语义含义。特征可视化已成为理解、调试和信任深度模型的关键工具。

来源

• [raw/articles/ai-papers/foundations/paper_03_alexnet.md] — AlexNet 论文精读

相关

• AlexNet — demonstrated_in
• 卷积神经网络（CNN） — interprets
• ZFNet（2013 论文） — advanced_by
• 可解释 AI（XAI） — technique_of