理论部分:
线性模型是最基础的模型,便于我们掌握机器学习的基本方法。机器学习可以分为两大类任务:回归任务,分类任务。因此我把线性模型做如下分类:
一、线性回归
机器学习,就是根据已知数据,学习出一个数学函数。对于线性回归,需要学习的函数形式为:
只要学得了其中的ω和b,模型就被确定了。确定参数的关键在于衡量预测输出f(x)与实际输出y之间的差距。
1.二元线性回归
二元线性回归需要学的函数为:
利用最小二乘法,基于均方误差最小化进行模型求解,求ω和b使得E(ω,b)最小:
对函数求一阶偏导,分别令其等于零即可求得相应参数。
2.多元线性回归
二元线性回归只有一个属性,也就是只需要学习一个权重。而