回归-线性回归

最新推荐文章于 2024-05-23 23:21:46 发布

「已注销」

最新推荐文章于 2024-05-23 23:21:46 发布

阅读量658

点赞数 2

分类专栏：其它文章标签：回归线性回归机器学习

本文链接：https://blog.csdn.net/weixin_57451673/article/details/126349722

版权

一、线性模型

线性模型是自然界最简单的模型之一，它描述了一个（或多个）自变量对另一个因变量的影响是呈简单的比例、线性关系

线性模型在二维空间内表现为一条直线，在三维空间内表现为一个平面，更高维度下的线性模型很难用几何图形来表示（称为超平面）

线性回归是要根据一组输入值和输出值（称为样本），寻找一个线性模型，能最佳程度上拟合于给定的数值分布，从而再给定新的输入时预测输出.样本如下表所示：

根据样本拟合的线性模型如下图所示：

设给定一组属性 $x, x=(x_1;x_2;...;x_n)$ ，线性方程的一般表达形式为：

$y = w_1x_1 + w_2x_2 + w_3x_3 + ... + w_nx_n + b$

写成向量形式为：

$y = w^Tx + b$

其中， $w=(w_1;w_2;...;w_n), x=(x_1;x_2;...;x_n)$ ，w和b经过学习后，模型就可以确定. 当自变量数量为1时，上述线性模型即为平面下的直线方程：

$y = wx + b$

在二维平面中，给定两点可以确定一条直线.但在实际工程中，可能有很多个样本点，无法找到一条直线精确穿过所有样本点，只能找到一条与样本”足够接近“或”距离足够小“的直线，近似拟合给定的样本.如下图所示：

如何确定直线到所有样本足够近呢？可以使用损失函数来进行度量。

关注