HearMeRoar_的博客

支持向量机（Support Vector Machines，SVM）是一种二分类模型，它的目的是寻找一个超平面来对样本进行分割，分割的原则是间隔最大化，最终转化为一个凸二次规划问题来求解。二分类问题就是寻找一个超平面将不同类别的样本分开，那么问题来了，哪条线才是最好，最鲁棒的呢？直观来说，应该找最中间的那个超平面，因为该超平面对训练样本局部扰动的“容忍”性最好。为法向量，决定了超平面的方向，b为位移项，决定了超平面与原点之间的距离。则距离超平面最近的样本使得上式的等号成立，这些样本被称为“支持向量“。

回归任务的目标是通过输入一个值，可以预测一个输出值出来，但如果我们的任务是分类任务，那么回归模型就无法解决，但只需找一个单调可微函数将分类任务的真实标记y与线性回归模型的预测值联系起来即可，也即做一个映射函数，将回归模型的预测值R映射到（0,1）区间内。一对一：将N个类别两两配对，产生N(N-1)/2个二分类任务，最终测试时通过投票产生最终结果，预测的最多的就是最终分类结果。例如有998个反例，但正例只有2个，那么学习方法只需返回一个永远将新样本预测为反例的学习器，就能达到99.8%的精。

按自己的理解梳理了西瓜书的前两章节。