【MIT】理解深度学习网络里单个神经元的作用

深度神经网络擅长于寻找解决大型数据集上复杂任务的层次表示。我们人类如何理解这些学习得到表示?在这项工作中，我们提出了网络解剖，一个分析框架，系统地识别在图像分类和图像生成网络中个别隐藏单元的语义。首先，我们分析一个在场景分类方面受过训练的卷积神经网络(CNN)，并发现匹配不同对象概念集的单元。我们发现网络已经学习了许多在场景类分类中起关键作用的对象类。其次，我们使用类似的分析方法来分析生成对抗网络(GAN)模型训练生成场景。通过分析激活或停用小组单元时的变化，我们发现对象可以在适应上下文的同时从输出场景中添加或删除。最后，我们将分析框架应用于理解敌对攻击和语义图像编辑。

https://dissect.csail.mit.edu/