tensorflow实现AlexNet训练mnist数据

本文介绍了如何用TensorFlow实现AlexNet网络结构,并在MNIST数据集上进行训练。通过设置不同dropout值,观察对准确率的影响,结果显示dropout有助于提升模型性能。
摘要由CSDN通过智能技术生成

一、AlexNet网络介绍

AlexNet 可以说是具有历史意义的一个网络结构,可以说在AlexNet之前,深度学习已经沉寂了很久。历史的转折在2012年到来,Alex

Net 在当年的ImageNet图像分类竞赛中,top-5错误率比上一年的冠军下降了十个百分点,而且远远超过当年的第二名。

AlexNet 之所以能够成功,深度学习之所以能够重回历史舞台,原因在于:

  1. 非线性激活函数:ReLU
  2. 防止过拟合的方法:Dropout,Data augmentation
  3. 大数据训练:百万级ImageNet图像数据
  4. 其他:GPU实现,LRN归一化层的使用
上述内容节选于 【卷积神经网络-进化史】从LeNet到AlexNet 
更多关于AlexNet网络的内容请参考该博客,讲的很不错。

alexnet网络结构:


二、数据

在代码中,数据获取方式为:

from tensorflow.examples.tutorials.mnist import input_data
#mnist数据存储的位置或待存储的位置,若该位置有数据则直接使用,否则下载
MNIST_data_folder=r"C:\Users\MaMQ\Documents\DeepLearning\tensorflow\try\myAlexnet\data"
mnist=input_data.read_data_sets(MNIST_data_folder,one_hot=True)

本人是在windows下使用python3.5、tensorflow1.0,input_data中下载数据时用到了urllib.urlretrieve,但是python3.5中没有这个模块,因此下载时会报错。所以我在 http://yann.lecun.com/exdb/mnist/ 网站下载好了mnist数据,并保存到指定文件夹中。这样在运行时会使用已下载好的数据。

三、

在mnist数据上,我分别将dropout值设置为0.2、0.5、0.8,得到的准确率为:0.0859375,0.179688,0.972656。可见dropout对准确率的提升有很大的帮助。dropout介绍可参考此博客。

代码下载可至此http://download.csdn.net/detail/qq_23926575/9835596

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值