假设输入层一个,隐藏层10个,输出层一个神经元
直接在代码里说明(中文内容)
import tensorflow as tf
import numpy as np
#define add a neural layer
//定义一个添加层的函数包括几个参数,输入,行数,列数和激活函数,随机初始化一个权重矩阵,bias矩阵不为0,
def add_layer(inputs, in_size, out_size, activition_function=None):
# add one more layer and return the output of this layer
Weights = tf.Variable(tf.random_normal([in_size, out_size]))
biases = tf.Variable(tf.zeros([1, out_size]) + 0.1)
W_plus_b = tf.matmul(inputs, Weights) + biases
if activition_function is None:
outputs = W_plus_b
else:
outputs = activition_function(W_plus_b)
return outputs
//构建所需的数据。 这里的x_data和y_data并不是严格的一元二次函数的关系,因为我们多加了一个noise,这样看起来会更像真实情况。
x_data = np.linspace(-1,1,300)[:, np.newaxis]
noise = np.random.normal(0, 0.05, x_data.shape)
y_data = np.square(x_data) - 0.5 + noise
//用placeholder来定义输入和输出,与feed_dict相对应
xs=tf.placeholder(tf.float32,[None,1])
ys=tf.placeholder(tf.float32,[None,1])
//定义隐含层和输出层,包括输入的内容,神经元的个数,和激活函数。
l1=add_layer(xs,1,10,activition_function=tf.nn.relu)
prediction=add_layer(l1,10,1,activition_function=None)
//定义损失函数
loss=tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),reduction_indices=[1]))
//训练步骤,将loss最小化,定义一个学习率
train_step=tf.train.GradientDescentOptimizer(0.1).minimize(loss)
//将所有的变量初始化!!!very important
init=tf.global_variables_initializer()
sess=tf.Session()
sess.run(init)
//训练1000次,没50次迭代测输出对应的loss值
for i in range(1000):
sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
if i % 50==0:
print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))