本文通过perturbation analyses和quantifying class selectivity探讨神经网络中单一方向对模型泛化能力的影响。研究发现，网络对特定direction的依赖度与泛化性能密切相关，而类别选择性并不总是性能的决定因素。此外，BN和dropout似乎通过减少单一方向依赖来提升泛化。深度增加会增强类别选择性，但过高可能对性能有害。
作者：
Ari S. Morcos, David G.T. Barrett, Neil C. Rabinowitz, & Matthew Botvinick
DeepMind
London, UK
ICLR 2018
发布时间：22 May 2018
这篇文章是来探究direction（可以简单理解为节点）的和某一类的对应程度和重要性程度的关系，试图给以神经网络学习出来的东西以解释性。
APPROACH
PERTURBATION ANALYSES
Ablations消融
用去除某一single direction，网络的性能降低的程度来衡量了direction对网络计算的重要性。对于MLPs，我们去除某个节点，对于卷积网络，我们去除一整特特征图。我们把他们称之为‘units’。
有意思的是我们发现将units的值置为平均值对网络性能的影响要大于直接置为0，如下图。
一个明显的推理是网络在低维激活子空间上越依赖，随着单个方向被消融，准确度将下降得越快。
Addition of noise
对每个unit加上均值为0的高斯白噪声来测试网络性能的下降。这样来测试网络对随机direction的依赖。（消融测试的是对coordinate-aligned single directions的影响）
QUANTIFYING CLASS SELECTIVITY
类别选择性： selectivity=μ
最低0.47元/天 解锁文章
1165
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
