多类分类方法

多类分类

基本思想

考虑$N$个类别$C_1,C_2.\cdots, C_N$，多分类问题的基本思路是拆解法，即将多分类问题拆分为若干个二分类问题求解。

拆分策略

One-vs-One

将$N$个类别两两配对，训练$N(N-1)/2$个分类器。测试阶段，新样本同时提交给所有的分类器，得到$N(N-1)/2$个分类结果，投票表决。

One-vs-Rest

每次将一个类作为正例，其余所有类作为负例，训练 N N <script type="math/tex" id="MathJax-Element-131">N</script>个分类器。在测试时如果只有一个类为正例，则对应的类标标记为最终结果，如果多个分类器预测为正类，则考虑分类器的预测置信度，选择置信度最大的类别标记为分类结果。

Many-Vs-Many

将若干个类作为正类，若干个类作为负类。MvM的正反类构造必须有特别的设计，Error Correcting Output Code是一种常用的技术。

---

参考资料

周志华 机器学习