python拟合曲线(小批量随机梯度下降)

深度学习书籍参考:https://tangshusen.me/Dive-into-DL-PyTorch/#/read_guide

import numpy as np
from matplotlib import pyplot as plt


plt.ion()#开启交互
X=np.linspace(-1,2,1000)
Y=X**3-X**2+X+0.5+np.random.rand(1000)*0.001 #生成样本+噪声

w=np.zeros(4)#需要拟合的函数系数

lr=0.01
for i in range(5000):
    index=np.random.choice(1000,8)
    x=X[index]
    y=Y[index]

    y_pred=w[0]*x**3+w[1]*x**2+w[2]*x+w[3]
    dy_pred=y_pred-y
    
    w[0]=w[0]-lr*np.dot(x**3,dy_pred)/8
    w[1]=w[1]-lr*np.dot(x**2,dy_pred)/8
    w[2]=w[2]-np.dot(x, dy_pred)/8
    w[3]=w[3]-lr*dy_pred.sum()/8
    if i%100==0:
        plt.clf()
        Y_pred=w[0]*X**3+w[1]*X**2+w[2]*X+w[3]
        plt.scatter(X,Y)
        plt.plot(X,Y_pred, c='r')
        plt.pause(0.001)
print(w)#打印拟合出的函数的系数

代码效果:
在这里插入图片描述

Python中的多元线性回归是一种统计模型,它通过分析多个自变量与一个因变量之间的关系来进行预测。小批量随机梯度下降(Stochastic Gradient Descent,SGD)是一种优化算法,用于最小化代价函数,常用于机器学习中的模型训练,包括多元线性回归。 在房价预测中,假设我们有一个数据集包含了房屋的各种特征(如面积、房间数、地理位置等)作为输入,目标变量是房屋的价格。使用小批量随机梯度下降,我们会按照一定的学习率(learning rate)迭代地更新模型的权重,每次只考虑部分样本来计算梯度,这提高了训练速度并降低了对数据顺序的依赖。 以下是使用Scikit-learn库的一个简化示例: ```python import pandas as pd from sklearn.model_selection import train_test_split from sklearn.linear_model import LinearRegression from sklearn.metrics import mean_squared_error # 加载数据 data = pd.read_csv('house_prices.csv') # 数据预处理(缺失值填充、编码等) X = data.drop('price', axis=1) y = data['price'] # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) # 创建线性回归模型 model = LinearRegression() # 小批量随机梯度下降 for i in range(epochs): for batch_X, batch_y in zip(np.array_split(X_train, batch_size), np.array_split(y_train, batch_size)): model.partial_fit(batch_X, batch_y) # 预测 predictions = model.predict(X_test) # 计算评估指标 mse = mean_squared_error(y_test, predictions) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值