Datawhale X 李宏毅苹果书AI夏令营task1notes

随着要找的函数不同，机器学习有不同的类别。假设要找的函数的输出是一个数值，一个 标量（scalar），找这个函数的任务称为回归（regression）。除了回归以外， 另一个常见的任务是分类 （ classifcation）。除了回归跟分类以外， 还有结构化学习（structured learning）。

机器学习找函数的过程， 分成 3 个步骤。

第一个步骤是写出一个带有未知参数的函数 f ，b 跟 w 是未知的参数， 它是准备要通过数据去找出来的， w 跟 b 是未知的。带有未知的参数（parameter） 的函数称为模型 （ model） 。模型在机 器学习里面， 就是一个带有未知的参数的函数， 特征 （ feature）X1是这个函数里面已知的， w 称为 权重 （ weight） ， b 称为偏置 （ bias）。

第 2 个步骤是定义损失（loss）， 损失也是一个函数。而 b 跟 w 是未知的， 损失是函数 L(b, w)， 其输入是模型参数 b 跟w。损失函数输出的值代表，设定某一个数值的时候， 这笔数值好还是不好。 

真实的值称为标签（label）。

 估测的值跟实际的值之间的差距，有不同的计算方法， 计算 y （真实值）与 yˆ（估计值）之间绝对值的差距，称为平均绝对误差 （ Mean Absolute Error ， MAE）。

如果算 y 与 yˆ 之间平方的差距，则称为均方误差 （ Mean Squared Error ， MSE） 。

第 3 步： 解一个最优化的问题。找一个 w 跟 b， 把未知的参数找 一个数值出来，看代哪一个数值进去可以让损失 L 的值最小， 就是要找的 w 跟 b， 这个可以让 损失最小的 w 跟 b 称为 w ∗ 跟 b∗ 代表它们是最 好的一组 w 跟 b ， 可以让损失的值最小。 梯度下降（ gradient descent） 是经常会使用优化的方法。