线性回归机器学习补充(显示损失Loss)

通过昨天的学习,我们已经可以将那个简单的线性回归问题模型训练出来。接下来我们想要对每一次的损失进行显示出来,需要在原来的基础上加上一些代码。

由于每训练一次就会产生一个损失值,所以我们没有必要将他们全部打印出来,这个时候设置一个参数display_step 来控制打印的粒度;然后设置一个step 参数为训练的步数,一个列表loss_list 来存储每次的损失。

具体代码如下,只是在原来代码上做了一些改动。

import tensorflow as tf
import matplotlib.pyplot as plt
import numpy as np

# 设置随机种子数
np.random.seed(5)

# 直接采用np生成等差数列,生成100个点,每个点的取值在-1~1之间
x_data = np.linspace(-1, 1, 100)

# y = 2x + 1 + 噪声, 其中,噪声的维度和x_data一致
y_data = 2*x_data + 1.0 + np.random.randn(*x_data.shape)*0.4


x = tf.placeholder("float", name="x")
y = tf.placeholder("float", name="y")


# 定义模型
def model(x, w, b):
    return tf.multiply(x, w) + b


# 需要训练的变量
# 构建线性函数的斜率,变量w
w = tf.Variable(1.0, name="w0")
# 构建线性函数的截距,变量b
b = tf.Variable(0.0, name="b0")
# pred是预测值,前向计算
pred = model(x, w, b)

# 设置迭代的次数(训练轮数)
train_epoch = 10
# 学习率
learning_rate = 0.05
# 控制显示loss值的粒度
display_step = 10


# 定义损失函数(均方差)
loss_function = tf.reduce_mean(tf.square(y-pred))

# 定义梯度下降优化器
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function)

sess = tf.Session()

init = tf.global_variables_initializer()
sess.run(init)

# 开始训练,轮数为epoch,采用SGD随机梯度下降优化方法
step = 0   # 记录训练的步数
loss_list = []  # 用于保存loss值的列表

for epoch in range(train_epoch):
    for xs, ys in zip(x_data, y_data):
        _, loss = sess.run([optimizer, loss_function], feed_dict={x: xs, y: ys})
        # 显示损失值 loss
        # display_step:控制报告粒度
        # 例如:如果display_step设置为2,则将每训练两个样本输出一次损失值
        # 与超参数不同,修改display_step不会更改模型学习的规律
        loss_list.append(loss)
        step = step + 1
        if step % display_step == 0:
            print("当前训练轮数:", epoch+1, "   步数:", step, "   损失值为:", loss)
    b0temp = b.eval(session=sess)
    w0temp = w.eval(session=sess)


print("w:", sess.run(w))
print("b:", sess.run(b))

plt.plot(loss_list)
# plt.plot(loss_list, 'r+')
plt.show()

运行结果图:
在这里插入图片描述
损失值可视化:
在这里插入图片描述

  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
使用numpy实现机器学习线性回归可以分为以下几个步骤: 1. 导入所需的库 ```python import numpy as np ``` 2. 准备数据 我们需要准备好训练数据和标签,这里我们使用一个简单的例子,假设我们想要预测一个人的体重(weight)与身高(height)之间的关系。 ```python # 身高数据 X = np.array([156, 157, 158, 159, 160, 161, 162, 163, 164, 165]).reshape((-1, 1)) # 体重数据 y = np.array([52, 53, 54, 55, 56, 57, 58, 59, 60, 61]) ``` 3. 添加偏置项 在线性回归中,我们需要添加一个偏置项,也就是常数项,这里我们使用numpy中的`ones`函数来实现。 ```python # 添加偏置项 X = np.concatenate((np.ones((X.shape[0], 1)), X), axis=1) ``` 4. 初始化参数 在线性回归中,我们需要初始化参数,也就是权重(weight),这里我们初始化为一个随机向量。 ```python # 初始化权重 theta = np.random.rand(X.shape[1]) ``` 5. 定义损失函数 在线性回归中,我们使用均方误差(MSE)作为损失函数,定义如下: ```python def mse_loss(X, y, theta): m = X.shape[0] y_pred = X.dot(theta) loss = np.sum((y_pred - y) ** 2) / (2 * m) return loss ``` 6. 定义梯度下降函数 在线性回归中,我们使用梯度下降来更新参数,定义如下: ```python def gradient_descent(X, y, theta, learning_rate, num_iterations): m = X.shape[0] for i in range(num_iterations): y_pred = X.dot(theta) theta -= (learning_rate / m) * (X.T.dot(y_pred - y)) loss = mse_loss(X, y, theta) print(f"Iteration {i+1}: loss={loss}, theta={theta}") return theta ``` 7. 训练模型 使用上述定义的损失函数和梯度下降函数,我们可以训练模型,得到最优的权重。 ```python # 训练模型 theta = gradient_descent(X, y, theta, learning_rate=0.01, num_iterations=100) ``` 8. 预测结果 使用训练好的模型,我们可以对新的数据进行预测。 ```python # 预测结果 X_test = np.array([166, 167, 168, 169, 170]).reshape((-1, 1)) X_test = np.concatenate((np.ones((X_test.shape[0], 1)), X_test), axis=1) y_pred = X_test.dot(theta) print(y_pred) ``` 以上就是使用numpy实现机器学习线性回归的步骤。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

MYH永恒

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值