Tensorflow 简单神经网络MNIST手写数字识别

MNIST手写数字识别

MNIST数据集介绍

MNIST数据集官网：Yann LeCun’s Website
下载下来的数据集被分成两部分：60000行的训练数据集（mnist.train）和 10000行的测试数据集（mnist.test）

一张图片包含2828个像素，我们把这一个数组展开成一个向量，长度是2828=784。 如果把数据用矩阵表示，可以把MNIST训练数据变成一个形状为 [60000, 784] 的矩阵， 第一个维度数字用来索引图片，第二个维度数字用来索引每张图片中的像素点。图片里 的某个像素的强度值介于0-1之间。

MNIST数据集的标签是介于0-9的数字，我们要把标签转化为“one-hot vectors”。一个one-hot向量除了某一位数字是1以外，其余维度数字都是0， 比如标签0将表示为([1,0,0,0,0,0,0,0,0,0])，标签3将表示为 ([0,0,0,1,0,0,0,0,0,0])

因此，可以把MNIST训练集的标签变为 [60000, 10] 的矩阵。

源码

import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data

mnist = input_data.read_data_sets("MNIST_data",one_hot=True)
#批次大小，每次放多少进去训练
batch_size = 64
n_batch = mnist.train.num_examples //batch_size

#with tf.name_scope('input'):
x = tf.placeholder(tf.float32,[None,784],name='x-input')
y = tf.placeholder(tf.float32,[None,10],name='y-input')
keep_prob=tf.placeholder(tf.float32)  #drop_out

# with tf.name_scope('layer'):
#建立神经网络 784-1000-500-10
W1 = tf.Variable(tf.truncated_normal([784,1000],stddev = 0.1))
b1 = tf.Variable(tf.zeros([1000])+0.1)
L1 = tf.nn.tanh(tf.matmul(x,W1)+b1)
L1_drop = tf.nn.dropout(L1,keep_prob) 

W2 = tf.Variable(tf.truncated_normal([1000,500],stddev = 0.1))
b2 = tf.Variable(tf.zeros([500])+0.1)
L2 = tf.nn.tanh(tf.matmul(L1_drop,W2)+b2)
L2_drop = tf.nn.dropout(L2,keep_prob) 


W3 = tf.Variable(tf.truncated_normal([500,10],stddev = 0.1))
b3 = tf.Variable(tf.zeros([10])+0.1)
prediction = tf.nn.softmax(tf.matmul(L2_drop,W3)+ b3)

#with tf.name_scope('loss'):   
#正则项
l2_loss = tf.nn.l2_loss(W1) + tf.nn.l2_loss(b1) + tf.nn.l2_loss(W2) + tf.nn.l2_loss(b2) + tf.nn.l2_loss(W3) + tf.nn.l2_loss(b3)

#loss = tf.losses.mean_pairwise_squared_error(y,prediction)   #二次代价函数
loss = tf.losses.softmax_cross_entropy(y, prediction) + 0.0001*l2_loss   #交叉熵


#with tf.name_scope('train'):  
train = tf.train.AdamOptimizer(0.0001).minimize(loss)
    
#with tf.name_scope('accuracy'):  
#比较结果存放在布尔型列表中
correct_prediction = tf.equal(tf.argmax(y,axis=1),tf.argmax(prediction,axis=1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction,tf.float32))  #把true变成1，False变成0

#saver = tf.train.Saver()
with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    #writer = tf.summary.FileWriter('logs/',sess.graph)
    #epoch:周期  所有的数据训练一次，就是一个周期
    for epoch in range(21):
        for batch in range(n_batch):
            batch_xs,batch_ys = mnist.train.next_batch(batch_size)   #获取一个批次的数据和标签
            sess.run(train,feed_dict={x:batch_xs,y:batch_ys,keep_prob:0.5})
        test_acc = sess.run(accuracy,feed_dict={x:mnist.test.images,y:mnist.test.labels,keep_prob:1.0})
        train_acc = sess.run(accuracy,feed_dict={x:mnist.train.images,y:mnist.train.labels,keep_prob:1.0})
        print("Iter " + str(epoch) + ",Testing Accuracy " + str(test_acc) +",Training Accuracy " + str(train_acc))
    #saver.save(sess,"models/my_model.ckpt")

运行结果