最小二乘法
文章平均质量分 80
ms知何处
这个作者很懒,什么都没留下…
展开
-
最小二乘法多元线性回归(岭回归实现)
最小二乘法多元线性回归(岭回归实现)多元线性回归岭回归实现一、理论分析二、实现代码第一部分(LinRegression类)第二部分(main,调用类并做对比)三、代码解读及结果分析1.代码解读2.结果分析 采用岭回归的方式实现,数据集采用sklearn库中的波士顿房价数据集。 多元线性回归岭回归实现 一、理论分析 岭回归的相关推导已经有很多了,这里不再赘述,这里主要分析在波士顿房价数据集中的一些分析。 由岭回归的损失函数: 进一步推导可得知参数 (其中λ是系数,Ip是单位矩阵,矩阵的阶数和X^T原创 2021-04-05 13:41:47 · 4855 阅读 · 1 评论 -
最小二乘法一元高次
最小二乘法一元高次&多元线性回归1.一元高次1)基本原理2)代码实现3)代码解读2.多元线性回归1)代码实现2)代码解读 1.一元高次 1)基本原理 这里的β就是我们所求的变量 所以这里我们可以得到 然后我们就可根据这个公式去实现算法,但是往往这里并不能得到一个非常好的结果,因为会出现过拟合问题。 所以可以采用正则化(岭回归)的方式来改进, 2)代码实现 请参考这位大佬的博客,我就是学习的他的代码实现 最小二乘法多项式曲线拟合及其python实现 3)代码解读 数据来源是利用y=sinx产原创 2021-04-05 13:12:30 · 515 阅读 · 0 评论