使用Numpy实现机器学习

最新推荐文章于 2023-06-25 08:30:34 发布

没有胡子的猫

最新推荐文章于 2023-06-25 08:30:34 发布

阅读量330

点赞数

分类专栏：机器学习 python 文章标签： python 机器学习深度学习人工智能神经网络

本文链接：https://blog.csdn.net/qq_39827677/article/details/109697651

版权

机器学习同时被 2 个专栏收录

30 篇文章 1 订阅

订阅专栏

python

9 篇文章 0 订阅

订阅专栏

该博客介绍了如何使用Numpy库进行机器学习中的二次曲线拟合。通过生成带有噪声的数据点，然后利用随机初始化的权重和梯度下降法更新参数，最终实现对数据的拟合。代码展示了前向传播、损失函数计算、梯度求解以及模型优化过程，并以图形方式展示了预测结果与真实值的对比。

摘要由CSDN通过智能技术生成

使用Numpy实现机器学习

表达式： $y=3x^2+2$

模型： $y=wx^2+b$

损失函数： $Loss=\frac{1}{2}\sum_{i=1}^{100}(wx^2_i+b-y_i)^2$

对损失函数求导：
$\frac{\partial Loss}{\partial w}=\sum_{i=1}^{100}(wx^2_i+b-y_i)^2x^2_i$

$\frac{\partial Loss}{\partial b}=\sum_{i=1}^{100}(wx^2_i+b-y_i)^2$

利用梯度下降法学习参数，学习率为:lr

$w_1-=lr*\frac{\partial Loss}{\partial w}$

$b_1-=lr*\frac{\partial Loss}{\partial b}$

import numpy as np
from matplotlib import pyplot as plt

1.生成训练数据

#设置随机种子，生成同一份数据
np.random.seed(100)
x = np.linspace(-1, 1, 100).reshape(100, 1)
# y在真实值上增加噪声
y = 3*np.power(x, 2)+2+0.2*np.random.rand(x.size).reshape(100, 1)

2.查看x,y分布

plt.scatter(x, y)
plt.show()

png

3.初始化权重参数

# 随即初始化参数
w1 = np.random.rand(1, 1)
b1 = np.random.rand(1, 1)

4.求解模型

lr = 0.001
for i in range(800):
    # 前向传播
    y_pred = np.power(x, 2)*w1+b1
    # 定义损失函数
    loss = 0.5 * (y_pred-y)**2
    # print(loss)
    # 对各维度求和
    loss = loss.sum()
    # 计算梯度(求导)
    grad_w = np.sum((y_pred-y)*np.power(x, 2))
    grad_b = np.sum((y_pred-y))
    # 使用梯度下降法，使得loss最小
    w1 -= lr*grad_w
    b1 -= lr*grad_b

5.结果可视化

plt.plot(x, y_pred, 'r-', label='predict')
plt.scatter(x, y, color='blue', marker='o', label='true')
plt.xlim(-1, 1)
plt.ylim(2, 6)
plt.legend()
plt.show()
# 预测值
print(w1, b1)