svm对未知数据的分类_SVM多分类之一对一与一对多

冒泡~今天是在实验室划水的最后一天啦!

明天就可以回我滴厦门啦~来更个新！

关于SVM的基本原理可参考之前写过的《探索SVM(支持向量机)之旅》那个时候主要是理论了解也就知道个大概(虽然现在也只是了解更多一点罢了)

之前更多把SVM定义在二分类问题上 今天着重记录的是SVM完成多分类。

SVM多分类

SVM算法最初是为二值分类问题设计的，当处理多类问题时，就需要构造合适的多类分类器。构造多分类器可以采用直接法或者间接法。 但是若采取直接法即SVM直接在目标函数上进行修改的话，将多个分类面的参数求解合并到一个最优化问题上，显然难度太大，其计算复杂度比较高，实现起来比较困难，只适合用于小型问题中。

所以重点讲一下间接法

间接法的分类：一对多、一对一

一对多(one-versus-rest,简称OVR SVMs)

训练时依次把某个类别的样本归为一类,其他剩余的样本归为另一类，这样k个类别的样本就构造出了k个SVM。分类时将未知样本分类为具有最大分类函数值的那类。

举个例子：假如我有四类要划分(也就是有存在四个Label)，他们是A、B、C、D。　于是我在抽取训练集的时候，分别选取四个训练集如下：

1.A所对应的向量作为正集，B，C，D所对应的向量作为负集；

2.B所对应的向量作为正集，A，C，D所对应的向量作为负集；

3.C所对应的向量作为正集，A，B，D所对应的向量作为负集；

4.D所对应的向量作为正集，A，B，C所对应的向量作为负集；