机器学习之一元线性回归

我们之前讲过，当输出值是离散型，如猫或狗、癌症或非癌症成为分类；输出值为预测股票、天气这种连续值称为回归。

那么回归，也根据输入属性的一元多元分为不同的情况。当多个属性之间有大小关系时，可转化为数值：{1， 0.5， 0}。当没有大小关系时，例如：性别属性分为“男”“女”，可转化为二维向量：{（1，0），（0，1）}。

当只有一个属性的时候，我们用到的就是最小二乘法。损失函数是所有样本点和回归函数的差值的和，而对这个函数分别对w和b求偏导得到的就是损失函数的变化规律，当偏导等于0的时候，就是损失函数达到了局部最小值，这时的参数就是我们要求的回归方程。

这里我想说一下一些学习的规律，我们看到的绝大部分教程都是主干和细节一起在讲的，很多时候我们还没有理清主干之间的逻辑就去学习细节怎么实现的，难免会产生困惑。同时不同的教程之间一定会有差别，初期我们不能发现他们的内部规律的时候，我们要选择那个我们最能理解的。