对于一个k类别分类问题,我们要做的是判断一个样本是k类别中的哪一类,实际上是二分类问题的拓展,解决方法也是二分类分类方法的延伸。
问题描述为:现有N个训练样本,每个样本的输出是k类类标的一种,我们需要训练出一个能够判别出样本类标的训练器。
简单,常用的多分类方法可分为两种:一对多方法(One-Versus-All)和一对一方法(One-Versus-One)
One-Versus-All:(K分类)
①用逻辑回归或其他相应的分类方法训练k个分类器,分类器Dk的训练过程为:把属于第k个类别的样本归为一类,把剩下k-1个类的样本归为另一类,以此作为二分类训练样本训练出一个二分类器;
②决策时,输入一个测试样本的x,分别代入k个分类器,取其中输出最大的那一类(即最大可能性)作为自己的类标