走进tensorflow第四步——使用残差网络实现MNIST手写数字识别

26 篇文章 263 订阅 ¥9.90 ¥99.00
本文介绍了在TensorFlow中使用残差网络(ResNet)实现MNIST手写数字识别时遇到的问题和解决方案。作者发现原代码中残差模块的输出层存在不必要的偏置值,移除后精度从11.35%提升到95.19%。通过调整代码,训练效率也得到了提升。
摘要由CSDN通过智能技术生成

下午看到一篇介绍用tensorflow实现残差网络的博文,原文在此:https://blog.csdn.net/qq_29462849/article/details/80744522#commentsedit

运行了代码,精度很低,仔细查看了代码,量比较大,由于刚看了吴恩达老师的相关课程,对这一块印象比较深,发现了一个问题,在残差模块的最后一个卷积层,也就是输出卷积层,该博主将输出和快捷连接的值相加后又加了一个偏置值,这一点在吴老师的数学推导中并没有提到,因为快捷链接是插到了最后一个卷积层的线性操作和非线性操作之间,那么直接对二者的和做ReLU就可以了,加偏置是没有必要的,经过这一点的改良后,精度大幅度提高,原来训练3000次精度为11.35%,而现在则提高到了95.19%,来看代码:

#tensorflow基于mnist数据集上的VGG11网络,可以直接运行
from tensorflow.examples.tutorials.mnist import input_data
import tensorflow as tf
import os
#tensorflow基于mnist实现VGG11
mnist = input_data.read_data_sets('MNIST_data', one_hot=True)

#x=mnist.train.images
#y=mnist.train.labels
#X=mnist.test.images
#Y=mnist.test.labels
x = tf.placeholder(tf.float32,
  • 6
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 6
    评论
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

beyond_LH

您的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值