神经网络特征可视化

原创 2015年07月09日 22:04:31

1. visualizing higher-layer features of a deep network


本文提出了两种可视化方法。 

1. 最大化activation

当训练完一个深层神经网络之后, 固定所有参数。 然后对于某一个神经元的activation进行梯度上升优化来寻找能使它的值最大化的input。 不断的用gradient ascent来更新一个初始化为random value的input。 converge 之后的input就是能使这个神经元activation最大化的input, 也就是这个神经元学到的feature。


2. sampling from a unit of a deep belief network

把一个神经元的activation设为1, 然后generate 一些相应的samples, 通过这些samples估计一个distribution。


3. linear combination of previous layers' filters

这个是已经存在的技术, 用底层的filter线性组合来visulze上层的filter


结论

1. 不同的网络结构或者模型会学到不同的filter。

2. 好的模型学到的filter通常比较容易解释,但是这个不是100%适用。 有些model学到的feature看似不好但是这个model效果也可能很好。

3. deep model 高层的feature相对比较high level 而且可以是底层feature的组合。

Deep Learning论文笔记之(七)深度网络高层特征可视化

Deep Learning论文笔记之(七)深度网络高层特征可视化zouxy09@qq.comhttp://blog.csdn.net/zouxy09          自己平时看了一些论文,但老感觉看...
  • zouxy09
  • zouxy09
  • 2013年08月16日 23:22
  • 35669

可视化神经网络的一些方法

原文为http://cs231n.github.io/understanding-cnn/    可视化CNN学到的东西 有一些方法可以用来理解和可视化CNN, 作为对深度学习不可解释的论...
  • Layumi1993
  • Layumi1993
  • 2016年12月21日 18:11
  • 800

深度学习(二十七)可视化理解卷积神经网络-ECCV 2014

可视化理解卷积神经网络 原文地址:http://blog.csdn.net/hjimce/article/details/50544370 作者:hjimce 一、相关理论 本篇博文主要...
  • GarfieldEr007
  • GarfieldEr007
  • 2016年01月28日 08:05
  • 3757

深度学习(二十七)可视化理解卷积神经网络

本篇博文主要讲解2014年ECCV上的一篇经典文献:《Visualizing and Understanding Convolutional Networks》,可以说是CNN领域可视化理解的开山之作...
  • hjimce
  • hjimce
  • 2016年01月19日 19:30
  • 26472

可视化展示神经网络是如何将分类正确率提升的

主旨这篇从可视化的角度形象说明神经网络到底如何提升分类正确率,不会涉及数学推导和模型原理,目的在于帮助读者建立神经网络对数据处理的形象化概念。备注这篇最初发表于我的知乎专栏:程序员深度学习笔记,结合知...
  • wangyao_bupt
  • wangyao_bupt
  • 2017年04月30日 16:00
  • 773

Caffe学习笔记4图像特征进行可视化

Caffe学习笔记4图像特征进行可视化 本文为原创作品,未经本人同意,禁止转载,禁止用于商业用途!本人对博客使用拥有最终解释权  欢迎关注我的博客:http://blog.csdn.net/h...
  • hit2015spring
  • hit2015spring
  • 2016年12月09日 18:29
  • 814

caffe之特征图可视化及特征提取

上一篇博客,介绍了怎么对训练好的model的各层权重可视化,这篇博客,我们介绍测试图片输入网络后产生的特征图的可视化 记得上篇中,我们是写了一个新的文件test.cpp,然后编译运行那个文件的,这是因...
  • zxj942405301
  • zxj942405301
  • 2017年05月05日 13:48
  • 1585

【caffe-matlab】权重以及特征图的可视化

前言 移植了各种caffe,是时候进行下一步操作了,先拿可视化下手吧。大部分内容可能跟网上的方法不一样,大家看完我的博客最好去网上看看大牛们的博客,万一被我误导了,就罪过了o(╯□╰)o,开更.......
  • zb1165048017
  • zb1165048017
  • 2016年09月23日 22:26
  • 10017

caffe 提取特征并可视化(已测试可执行)及在线可视化

参考主页: http://lijiancheng0614.github.io/2015/08/21/2015_08_21_CAFFE_Features/ http://nbviewer.ipyth...
  • jiandanjinxin
  • jiandanjinxin
  • 2015年12月26日 21:24
  • 19119

学习笔记:深度学习网络特征逐层可视化

“         Deep Learning很吸引人,也很玄乎的一个点就是大家都说它可以提取到分级的逐层抽象的特征。但对我们来说,总是耳听为虚,眼见为实。所以,每当我们训练完一个深度模型后,我们还特...
  • lynnandwei
  • lynnandwei
  • 2015年05月14日 15:23
  • 2731
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:神经网络特征可视化
举报原因:
原因补充:

(最多只允许输入30个字)