通过昨天的学习,我们已经可以将那个简单的线性回归问题模型训练出来。接下来我们想要对每一次的损失进行显示出来,需要在原来的基础上加上一些代码。
由于每训练一次就会产生一个损失值,所以我们没有必要将他们全部打印出来,这个时候设置一个参数display_step 来控制打印的粒度;然后设置一个step 参数为训练的步数,一个列表loss_list 来存储每次的损失。
具体代码如下,只是在原来代码上做了一些改动。
import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np
# 设置随机种子数
np.random.seed(5)
# 直接采用np生成等差数列,生成100个点,每个点的取值在-1~1之间
x_data = np.linspace(-1, 1, 100)
# y = 2x + 1 + 噪声, 其中,噪声的维度和x_data一致
y_data = 2*x_data + 1.0 + np.random.randn(*x_data.shape)*0.4
x = tf.placeholder("float", name="x")
y = tf.placeholder("float", name="y")
# 定义模型
def model(x, w, b):
return tf.multiply(x, w) + b
# 需要训练的变量
# 构建线性函数的斜率,变量w
w = tf.Variable(1.0, name="w0")
# 构建线性函数的截距,变量b
b = tf.Variable(0.0, name="b0")
# pred是预测值,前向计算
pred = model(x, w, b)
# 设置迭代的次数(训练轮数)
train_epoch = 10
# 学习率
learning_rate = 0.05
# 控制显示loss值的粒度
display_step = 10
# 定义损失函数(均方差)
loss_function = tf.reduce_mean(tf.square(y-pred))
# 定义梯度下降优化器
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function)
sess = tf.Session()
init = tf.global_variables_initializer()
sess.run(init)
# 开始训练,轮数为epoch,采用SGD随机梯度下降优化方法
step = 0 # 记录训练的步数
loss_list = [] # 用于保存loss值的列表
for epoch in range(train_epoch):
for xs, ys in zip(x_data, y_data):
_, loss = sess.run([optimizer, loss_function], feed_dict={x: xs, y: ys})
# 显示损失值 loss
# display_step:控制报告粒度
# 例如:如果display_step设置为2,则将每训练两个样本输出一次损失值
# 与超参数不同,修改display_step不会更改模型学习的规律
loss_list.append(loss)
step = step + 1
if step % display_step == 0:
print("当前训练轮数:", epoch+1, " 步数:", step, " 损失值为:", loss)
b0temp = b.eval(session=sess)
w0temp = w.eval(session=sess)
print("w:", sess.run(w))
print("b:", sess.run(b))
plt.plot(loss_list)
# plt.plot(loss_list, 'r+')
plt.show()
运行结果图:
损失值可视化: