建造神经网络

1. 构建

在 Tensorflow 里定义一个添加层的函数可以很容易的添加神经层,为之后的添加省下不少时间.神经层里常见的参数通常有weights、biases和激励函数。添加神经层的函数def add_layer(),它有四个参数：输入值、输入的大小、输出的大小和激励函数，我们设定默认的激励函数是None。

因为在生成初始参数时，随机变量(normal distribution)会比全部为0要好很多，所以我们这里的weights为一个in_size行, out_size列的随机变量矩阵。

import tensorflow as tf
import numpy as np

#定义添加神经层的函数def add_layer(),它有四个参数：输入值、输入的大小、
#输出的大小和激励函数
def add_layer(inputs, in_size, out_size, activation_function=None):
    Weights = tf.Variable(tf.random_normal([in_size, out_size]))
    biases = tf.Variable(tf.zeros([1, out_size]) + 0.1)  #推荐值不为0

#当激励函数为None时，输出就是当前的预测值——Wx_plus_b，不为None时，
#就把Wx_plus_b传到activation_function()函数中得到输出。
    Wx_plus_b = tf.matmul(inputs, Weights) + biases   #神经网络未激活的值
    if activation_function is None:
        outputs = Wx_plus_b
    else:
        outputs = activation_function(Wx_plus_b)
    return outputs

#怎样建造一个完整的神经网络,包括添加神经层,计算误差,训练步骤,判断是否在学习
# Make up some real data
#这里的x_data和y_data并不是严格的一元二次函数的关系，因为我们多加了一个noise,这样看起来会更像真实情况。
x_data = np.linspace(-1,1,300)[:, np.newaxis]
noise = np.random.norma