机器学习总结三之线性回归

最新推荐文章于 2022-03-12 17:15:50 发布

quentinl

最新推荐文章于 2022-03-12 17:15:50 发布

阅读量194

点赞数

分类专栏：机器学习文章标签：机器学习线性回归

本文链接：https://blog.csdn.net/weixin_43739185/article/details/94310621

版权

机器学习专栏收录该内容

6 篇文章 0 订阅

订阅专栏

机器学习总结三之线性回归

线性回归定义

线性回归：利用线性回归方程的最小二乘函数对一个或者多个自变量和因变量之间关心进行建模的方法
线性回归数学定义：
数据
$Y_{i},X_{i1},...,X_{ip}), i=1,...n$
模型
$Y=X\beta+\epsilon$
解析解
$\hat{\beta}=(X^{T}X)^{-1}X^{T}Y$
上式中：
$Y为包括了观测值的列向量 Y_{1}, ...,Y_{n} 。$
$\beta 为包括了参数值的列向量。$
$X=\begin{pmatrix} 1 & x_{11}& .& .& .&x_{1p} \\ 1& x_{21}& .& . & . & x_{2p}\\ .& .& .& & & \\ .& .& & .& & \\ .& .& & & .& \\ 1& x_{n1}&. &. &. &x_{np} \end{pmatrix}$
$X^{T}X 不可逆的时候可以采取的对策：$