简单的神经网络提高精度的方法（学习心得）——MNIST手写数字集

最新推荐文章于 2024-06-25 14:46:47 发布

向小黄追追追

最新推荐文章于 2024-06-25 14:46:47 发布

阅读量1w

点赞数 1

本文链接：https://blog.csdn.net/qq_37743098/article/details/88079127

版权

本文介绍了在不使用LSTM和卷积神经网络的情况下，如何提高MNIST手写数字识别的准确率。通过调整批次大小、增加隐藏层、改变权重初始化、使用交叉熵代价函数、优化学习率以及增加训练次数，可以显著提升模型的性能。实验发现，交叉熵比二次代价函数收敛更快，效果更好。加入优化器后，模型精度进一步提高到96%。

摘要由CSDN通过智能技术生成

初始的代码

//载入数据集
//one_hot 转化数据某一位是1 其他位为0
mnist =input_data.read_data_sets("D:\Python\MNIST_data",one_hot=True)

//每个批次的大小 以矩阵形式一次性放入200张到神经网络中去 
batch_size=200 
//计算一共有多少个批次=总量/批次 
n_batch=mnist.train.num_examples//batch_size

//定义两个placeholder
x=tf.placeholder(tf.float32,[None,784])#none和批次有关
y=tf.placeholder(tf.float32,[None,10])#y是标签

//创建一个简单的神经网络
//输入层784个神经元 输出层10个神经元
//权值，偏置值
W=tf.Variable(tf.zeros([784,10]))
b=tf.Variable(tf.zeros([10]))
prediction=tf.nn.softmax(tf