卷积神经网络论文及代码集锦(含若干相关课程)

本文详细介绍了卷积神经网络的关键要素,包括局部关联、权值共享、特征映射层和池化层。并逐一解析了LeNet、AlexNet、ZFNet、GoogLeNet、VGGNet、ResNet、FractalNet和DenseNet等经典模型的结构和特点,附带相关论文和代码资源,是理解与实践卷积神经网络的宝贵资料。
摘要由CSDN通过智能技术生成

积神经网络是对普通神经网络的一种推广,在卷积神经网络中有如下几大关键因素,局部关联,权值共享,特征映射层,池化层等。

局部关联即为特征映射层中的每个特征映射中的每个单元都是只跟输入层中的某一个局部小块相关联,这里的输入层不止是指原始的输入层,也包含往上堆叠的堆叠单元的输入层。

权值共享是指同一个特征映射中的单元对应的输入层中的权重向量或者权重矩阵或者更高维的张量是一样的,这样可以减少需要学习的参数,进而可以降低计算复杂度。

特征映射层一般由多个特征映射构成,通常情况下,不同的特征映射能够学到不同形式的特征。

池化层即为对特征映射层进一步进行聚合或者抽象,得到更高层次的特征。

了解了卷积神经网络中的若干关键元素,下面聊聊输入层到卷积层的参数个数,输入层到卷积层的参数个数依赖于滤波大小,还依赖于特征映射层中特征映射的个数。

输入层到卷积层的示例如下

640?wx_fmt=png

卷积神经网络中另一个比较重要的操作即为池化,常用池化方法有最大值池化法,均值池化法等,当然,也可以利用其它池化方法。

池化方法示例如下

640?wx_fmt=png


              smiley_12.png我是分割线smiley_12.png


然后介绍几种比较经典的卷积神经网络

  1.  LeNet

    该网络是由LeCun及Bengio等深度学习的资深专家提出的。

网络结构如下

640?wx_fmt=png

各方法效果对比如下

640?wx_fmt=png

对应的论文及链接如下

LeCun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998). Gradient-based learning applied to document recognition. Proceedings of the IEEE, 86(11), 2278-2324.

http://yann.lecun.com/exdb/publis/pdf/lecun-98.pdf

相关代码地址

https://github.com/sujaybabruwad/LeNet-in-Tensorflow


              smiley_12.png我是分割线smiley_12.png


2. AlexNet

这种网络是由Hinton等深度学习资深专家提出的。

网络结构如下

640?wx_fmt=png

这种网络跟一般的卷积神经网络的主要区别在于卷积层后面并不是直接跟一个池化层,而是再加一层卷积层。

对应论文及链接如下

Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). Imagenet classification with deep convolutional neural networks. In Advances in neural information processing systems (pp. 1097-1105).

http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf

相关代码地址

http://code.google.com/p/cuda-convnet/


              smiley_12.png我是分割线smiley_12.png


3. ZFNet

这种网络是由Ze

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值