回归算法
胸毛飘荡
这个作者很懒,什么都没留下…
展开
-
五、使用sklearn实现岭回归
首先给出longley.csv数据集Year,GNP.deflator,GNP,Unemployed,Armed.Forces,Population,Year,Employed1947,83.0,234.289,235.6,159.0,107.608,1947,60.3231948,88.5,259.426,232.5,145.6,108.632,1948,61.1221949,88.2,...原创 2019-10-16 16:19:19 · 1258 阅读 · 4 评论 -
四、标准方程法——岭回归
首先给出longley.csv数据集Year,GNP.deflator,GNP,Unemployed,Armed.Forces,Population,Year,Employed1947,83.0,234.289,235.6,159.0,107.608,1947,60.3231948,88.5,259.426,232.5,145.6,108.632,1948,61.1221949,88.2,...原创 2019-10-17 16:25:58 · 1418 阅读 · 0 评论 -
三、岭回归
根据线性回归标准方程法的公式:当数据特征n>样本个数m的时候,xTx会出现有一些行或者列全是0的情况,这就不是满秩矩阵(没有哪一行或列全是0),所以不可逆。I这个单位矩阵的行列与xTx是一样的,且单位矩阵I是满秩矩阵,λ一般是一个比较小的数,xTx + λI 的结果就是一个满秩矩阵。所以可逆。岭回归的公式是通过L2正则化推演出来的,推演过程如下:没有加上正则化的代价函数,称之为...原创 2019-10-16 16:15:49 · 508 阅读 · 0 评论 -
一、彻底理解一元线性回归——梯度下降法
本次推论会从最小二乘法去讲解一元线性回归[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-2cJQ20aZ-1571074937442)(691F2113FCA64121B39A8B3BC30F5633)]代价函数(损失函数):[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Wqae3SPy-1571074937444)(6A6027...原创 2019-10-15 16:35:25 · 4920 阅读 · 1 评论 -
二、线性回归——标准方程法的代码实现
import numpy as npimport pandas as pdimport matplotlib.pyplot as pltdata = pd.read_csv('linear_regression.csv', header=None)x_data = data[0].values.reshape(-1, 1)y_data = data[1].values.reshap...原创 2019-10-11 18:00:20 · 333 阅读 · 0 评论