随机梯度下降

最新推荐文章于 2024-07-31 14:47:45 发布

qsrkkkkkk

最新推荐文章于 2024-07-31 14:47:45 发布

阅读量338

点赞数

分类专栏：笔记

本文链接：https://blog.csdn.net/qsrkkkkkk/article/details/121280346

版权

笔记专栏收录该内容

5 篇文章 0 订阅

订阅专栏

该博客展示了如何使用随机梯度下降法（SGD）进行线性回归。通过随机生成的参数`th1`, `th2`, `th3`初始化，以极小误差`eps`为终止条件，不断迭代更新权重。博客中给出的代码计算了每个样本的误差，并根据误差更新权重`th1`, `th2`, `th3`，直至满足误差阈值。

摘要由CSDN通过智能技术生成

import numpy as np
import matplotlib.pyplot as plt
 
th1 = np.random.random()
th2 = np.random.random()
th3 = np.random.random()
th0 = np.array([th2, th3])
a = 0.0000001
x = np.array([[2104, 3], [1600, 3], [2400, 3], [1416, 2], [3000, 4]])
t = np.array([400, 330, 369, 232, 540])
 
eps = 1e-4
e0 = 200
e1 = 200
e2 = 200
i = 0
while e0 >= eps or e1 >= eps or e2 >= eps:
    e0 = (np.sum((x[i, 0:1] * th0[i])) + th1 * 1 - t[i])
    e1 = e0 * x[i, 0]
    e2 = e0 * x[i, 1]
    th1 = th1 - a * e0
    th2 = th2 - a * e1
    th3 = th3 - a * e2
    i +=1
 
print(th1, th2, th3)