机器学习系列（3）——误差来源

估测

假设真实模型为$\hat{f}$，然后我们通过搜集数据，通过训练得到我们的理想模型$f^{\ast }$，$f^{\ast }$其实是$\hat{f}$的一个预估。

这个过程就像打靶，$\hat{f}$就是我们的靶心，$f^{\ast }$就是我们投掷的结果。上图中$\hat{f}$和$f^{\ast }$之间蓝色部分的差距就是偏差和方差导致的。

估测x的偏差

假设$x$的平均值是$\mu$，方差是${\sigma }^2$
评估平均值：

• 首先拿到N的样本点：{$x^1,x^2,\cdot \cdot \cdot ,x^N$}
• 计算平均值m，得到
  $m=\frac{1}{N}{\sum }_n{x}^n\ne \mu$
  
  但是如果计算很多组的m，然后求m的期望：
  $E[m]=E[\frac{1}{N}\sum x^n]=\frac{1}{N}{\sum }_{n}E[x^n]=\mu$
  这个估计就是无偏估计（unbiased）。

估测x的方差

然后m分布对于$\mu$的离散程度（方差）：
$Var[m]=\frac{{\sigma }^2}{N}$
这个取决于N，下图看出N越小越离散：
考虑不同模型的方差，一次模型的方差就比较小，也就是比较集中，离散程度较小。而高次模型的方差就比较大，同理散布比较广，离散程度较大。所以用比较简单的模型，方差是比较小的（就像射击的时候，每次射击的设置都集中在一个比较小的区域内）。如果用了比较复杂的模型，方差就很大，散布比较开。这也是因为简单的模型收到不同训练集的影响是比较小的。

考虑不同模型的偏差，一次模型的偏差比较大，而复杂的高次模型，偏差就比较小。直观解释为，简单的模型函数集的space比较小，所以可能space里面就没有包含靶心，肯定射不中。而复杂的模型函数集的space比较大，可能就包含了靶心，只是没有办法知道确切的靶心在哪里。但足够多的数据，就可能得到真正的结果。

偏差 v.s. 方差

简单模型（左边）是偏差比较大造成的误差，这种情况叫做欠拟合，而复杂模型（右边）是方差过大造成的误差，这种情况叫做过拟合。

判断分析

如果模型没有很好的拟合训练集，就是偏差过大，也就是欠拟合。如果模型很好的拟合训练集，即在训练集上得到很小的错误，但是在测试集上得到大的错误，这意味着模型可能是方差比较大，就是过拟合。对于过拟合和欠拟合，使用不同的方式来处理的。

偏差大——欠拟合

此时应该重新设计模型，因为之前的函数集里面可能根本没有包含$f^{\ast }$。可以采用的方法：

• 将更多的函数加进去，比如考虑其他特征等等
• 考虑更多次幂、更复杂的模型

如果此时强行再收集更多的data去训练，这是没有什么帮助的，因为涉及的函数集本来就不好，再找更多的训练集也不会更好。

方差大——过拟合

但是在很多时候不一定能做到收集更多的data，可以针对对问题的理解对数据集做调整。比如识别手写数字的时候，偏转角度的数据集不够，那就将正常的数据集左转15度，右转15度，类似这样的处理。

模型选择

现在在偏差和方差之间就需要一个权衡的模型，可以平衡偏差和方差产生的错误，是的总错误最小，但是不能这么做：
用训练集训练不同的模型，然后在测试集上比较错误，模型3的错误比较小，就认为模型3好。但实际上这只是你手上的测试集，真正完整的测试集并没有。

交叉验证

图中的public的测试集是已有的，private是不知道的。交叉验证就是将训练集分为两部分，一部分作为训练集，一部分作为验证集。用训练集训练模型，然后在验证集上比较，确定出最好的模型之后（比如模型3），再用全部的训练集训练模型3，然后再用public的测试集进行测试，此时一般的得到的错误都是大一些的。不过此时会比较想再回去调一下参数，调一下模型，让在public的测试集上更好，但不太推荐这样。
如果担心将训练集拆分的时候分的效果比较差，可以用下面的方法：
N-折交叉验证
将训练集分成N份，比如分成3份。

比如在三份中训练结果Average错误是模型1最好，再用全部训练集训练模型1。