使用最小二乘法计算机器学习算法之线性回归（计算过程与python实现）

1.相关概念

1.1 线性回归：

线性回归模型是一种线性模型，是为了计算输入变量x与多个输出变量之间的关系。
求得一条直线：

更一般可表达为：

1.2 最小二乘法：

基于L2范数（均方误差）最小化进行模型求解的方法。

2.计算过程

假设输入特征的值只有一个：

在线性回归中，最小二乘法就是找到一条直线，使所有样本到这条直线的距离之和最小。

求解!w和b，使得