t-SNE
方法:在fc7(倒数第一层fc)提取输出,并用欧氏距离远近展示(或聚类)。好的网络可以直观看到同分类的图片聚在一起,几何上易被切割出来。
http://cs.stanford.edu/people/karpathy/cnnembed/
一个例子:
Visualizing Activations
方法:
1. 逆向使用已训练好的神经网络生成图片:输入一张只有噪点的图片,并且要求它在某个分类上可能性最大化,则神经网络会用它学到的东西给这张图片添加该分类的特性,最终“”绘制“出一张画。通过这种形式来看神经网络对于某个分类的理解。
2. 动态观察各层激活的情况:https://github.com/yosinski/deep-visualization-toolbox
待续