利用TensorFlow搭建DNN

利用TensorFlow搭建DNN

通过相关资料，学习使用TensorFlow搭建DNN的流程。整的提出分为以下几个步骤:设置网络参数—设置输入占位符变量—设置网络结构—优化损失函数—设置训练参数—训练网络—输出准确度

设置网络参数

搭建一个三层网络结构，输入层—隐藏层1—隐藏层2—输出层。假设以MNIST图像数据为例。
n_inputs = 28*28（像素）
n_hidden1 = 300（隐藏层单元个数）
n_hidden2 = 100
n_outputs = 10（10个类别）

传入占位符

X = tf.placeholder(tf.float32, shape = (None, n_inputs), name = "X")
y = tf.placeholder(tf.int64, shape = (None), name = "y")

其中placeholder相当于一个参数变量，方便后续调用和修改。其中第一个参数为type，第二个参数为传入数据的shape，一般第一个为None，即后续跟进输入数据可调节。最后一个为name，可以用于tensorboard使用。

神经网络的层次

输入层—隐藏层1—隐藏层2—输出层

def neuron_layer(X, n_neurons, name, activation = None):
#当前网络层，X输入层，n_neurons输出层，activation激活函数
    with tf.name_scope(name):
        n_inputs = int(X.get_shape()[1])
        stddev = 2/math.sqrt(n_inputs)#根据介绍，按照此方法计算标准差，可以加快收敛
        #产生一个具有截断的均值，标准差可以设定的高斯分布数据，如截断（-3std, +3std）
        init = tf.truncated_normal((n_inputs, n_neurons), stddev=s