线性回归问题TensorFlow实战

使用Tensorflow进行算法设计与训练的核心步骤

1. 准备数据
2. 构建模型
3. 训练模型
4. 进行预测

上述是使用Tensorflow进行算法设计与训练的核心步骤，下面使用一个简单的例子来讲解这几个步骤

线性回归的步骤

• Model–set a function
• Goodness of function(衡量函数的好坏)
  • how?
  • Loss Function(使用损失函数来衡量函数的好坏)
• Best Function（寻找最好的函数）
  • how？
  • gradient descent
  • 使用梯度下降寻找一个函数f使得损失函数L(f)最小

单变量线性回归实例

线性方程

单变量的线性方程可以表示为：

y = w*x + b

本例通过生成人工数据集。随机生成一个近似采样随机分布，使得w=2.0, b=1, 并加入一个噪声，噪声的最大振幅为0.4

人工数据集的生成

# 在jupyter中，使用matplotlib显示图像需要设置为inline模式，否则不会显示图像
%matplotlib inline

# 载入matplotlib
import matplotlib.pyplot as plt
import numpy as np
import tensorflow as tf

# 设置随机种子数
np.random.seed(5)
# 直接采用np生成等差数列的方法，生成100个点，每个点取值在-1～1之间
x_data = np.linspace(-1, 1, 100)

# y = 2*x + 1 + 噪声, 其中噪声的纬度与x_data一致, 噪声最大振幅为0.4
y_data = 2*x_data + 1 + np.random.randn(*x_data.shape)*0.4

# 利用matplotlib画出生成结果

# 画出随机生成数据的散点图
plt.scatter(x_data, y_data)

# 画出我们想要学习到的线性函数y = 2*x + 1
plt.plot(x_data, 2*x_data + 1.0, color = 'red', linewidth=3)

运行结果

构建模型

# 定义训练数据的占位符，x是特征值，y是标签值
x = tf.placeholder("float", name = "x")
y = tf.placeholder("float", name = "y")

# 定义模型函数
def model(x, w, b):
    return tf.multiply(x, w) + b

# 创建变量
# 创建线性函数的斜率和截距，变量w，b, 并为其设置初值
w = tf.Variable(1.0, name = "w0")
b = tf.Variable(0.0, name = "b0")

# pred是通过模型训练出来的预测值
pred = model(x, w, b)

# 设置训练参数
# 迭代次数（训练轮数）
train_epochs = 10
# 学习率
learning_rate = 0.05

# 定义损失函数，采用均方差作为损失函数
loss_function = tf.reduce_mean(tf.square(y - pred))

# 定义优化器， 梯度下降优化器
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function)

# 创建会话
sess = tf.Session()
# 变量初始化
ini = tf.global_variables_initializer()
sess.run(ini)

# 开始训练 迭代训练 采用SGD随机梯度下降优化方法
for each in range(train_epochs):
    for xs, ys in zip(x_data, y_data):
        _, loss = sess.run([optimizer, loss_function], feed_dict = {x:xs, y:ys})
    b0temp = b.eval(session=sess)
    w0temp = w.eval(session=sess)
    # 画图 画出梯度下降过程中每一次的w,b对应的函数的结果
    plt.plot(x_data, w0temp*x_data + b0temp)

迭代十次训练出来的模型

输出使得损失函数L(f)最小的函数的f的w b的值和该模型

print("w:", sess.run(w))
print("b:", sess.run(b))

plt.scatter(x_data, y_data, label = 'Original data')
plt.plot(x_data, x_data*sess.run(w) + sess.run(b), label='Fitted Line', color='r', linewidth=3)
# 通过参数loc指定图例位置
plt.legend(loc=2)

# 输出结果
w: 1.9822965
b: 1.0420128

利用训练好的模型 使用测试数据进行预测

# 利用模型 使用测试数据进行预测
x_test = 3.21
predict = sess.run(pred, feed_dict={x:x_test})
print("预测值：%f" % predict)

target = 2 * x_test + 1.0
print("目标值：%f" % target)

# 输出结果
预测值：7.405184
目标值：7.420000

参考视频：深度学习应用开发TensorFlow实践