线性模型的形式简单,并且容易建模,但是其中蕴涵了机器学习的一些重要思想。许多功能更为强大的非线性模型可在线性模型的基础上通过引入层级结构或高维映射而得。
线性回归便是线性模型中最经典的模型之一
对于最小二乘法的理解:
- 从字面意思上考虑:二乘的意思就是平方,对误差进行二乘并求和(误差的平方和),得到损失函数,求出损失函数取最小值的函数中的参数
让误差的平方和最小估计出来的模型是最接近真实情形的(误差=真实值-理论值)
- 最佳的拟合准则是使得yi-f(xi)的距离的平方和最小
凸函数图示.