python train 函数_机器学习算法python实现-线性回归

线性回归-Linear Regreesion

给定数据集

线性回归试图学得

，使

与

之间的差别尽可能小。

如何确定

和

，关键在于如何衡量

与

之间的差别,可以通过均方误差最小化

基于均方误差最小化来进行模型求解的方法称为“最小二乘法”

这里

是关于w和b的凸函数，当它关于w和b的导数均为零时，得到w和b的最优解。

求w和b的偏导：

令偏导为0：

推广到矩阵形式w的梯度为：

线性回归、批梯度下降、随机梯度下降优化具体算法可参考：

kamidox.com​blog.kamidox.com

1.一元线性回归

import 

x_mean

2.多元线性回归批梯度下降

from 

out:

X_train

模型主体：

def 

训练数据：

loss

查看参数：

params

{'w': array([[ 18.12432661],
[-107.67245554],
[ 404.37142851],
[ 226.28953116],
[ -10.89733854],
[ -76.80225482],
[-174.88980099],
[ 126.33236945],
[ 353.19542078],
[ 170.24624517]]),
'b': 151.95335186539964}

可视化：

import 

github地址：muxiaoxiong/Machine-learning-and-data-mining

参考：

数学推导+纯Python实现机器学习算法1：线性回归

线性回归理解（附纯python实现）_Python_快来学习鸭～～～-CSDN博客