![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
知识整理
把一些理论知识进行整理
奥黛丽皮皮鲁
这个作者很懒,什么都没留下…
展开
-
为什么会有岭回归以及Lasso呢?
先来说线性回归吧:线性回归 不等于 线性方程。这个概念要搞清楚。 线性回归指的是因变量y与自变量x的系数间的关系。而不是因变量与自变量间的关系。y = ax + b;y = cx^2 + d*x + e上述两个方程其实都应当属于线性回归的范畴。线性回归基本上是最小二乘搞定的,但是存在一个前提,就是(X的转置*X)的逆必须得存在 。但是当向量存在精确共线性...原创 2020-02-16 23:48:40 · 920 阅读 · 0 评论 -
为什么会有加权最小二乘?
一个理论的提出,源于一个简单的目的。即当前面临的情况与现有理论所要求的条件有差异,现有理论无法解决当前问题,那么需要对现有理论做出适当改进,并加上这之后的一系列改进,就形成了一个理论体系。(啰嗦这么多,其实就一个意思,知道这个理论是基于什么情况下产生的其实很重要!)加权最小二乘法就是最小二乘法演变来的。问题出现:最小二乘法是一种求取最优解的方法,但是有许多假定条件,比如规定了同方差,也...原创 2020-02-08 22:48:42 · 584 阅读 · 0 评论