激活函数:
sigmod函数为s型
relu为修正线性单元函数
tanh双曲正切
这里使用的relu激活函数,输出使用softmax多分类,中间使用了3层隐藏层,优化器使用AdamOptimizer,损失函数定义loss_function=tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=forward,labels=y))
训练十次的结果图:
数据准备
#读取
mnist= input_data.read_data_sets("mnist_data/",one_hot=True)
构建模型
#构建输入层
x=tf.placeholder(tf.float32,[None,784],name='x')
y=tf.placeholder(tf.float32,[None,10],name='y')
#构建隐藏层
h1_nn=256#第一层神经元个数
h2_nn=64#第二层神经元个数
h3_nn=32#第三层神经元个数
#第一层隐藏层
w1=tf.Variable(tf.truncated_normal([784,h1_nn],stddev=0.1))#第一层权重
b1=tf.Variable(tf.zeros([h1_nn]))#第一层偏置
y1=tf.nn.relu(tf.matmul(x,w1)+b1)#relu激活函数
#第二层隐藏层
w2=tf.Variable(tf.truncated_normal([h1_nn,h2_nn],stddev=0.1))#第一层权重
b2=tf.Variable(tf.zeros([h2_nn]))#第一层偏置
y2=tf.nn.relu(tf.matmul(y1,w2)+b2)#relu激活函数
#第三层隐藏层
w3=tf