在标准的SVM中,会根据样本会被最优分类面分为+1或-1;而在实际应用中,后验概率是非常有用的。Platt利用sigmoid函数实现了SVM算法的后验概率,将标准的SVM的输出值映射为概率值。
个人理解下来,跟Sigmoid函数在逻辑回归中的应用套路是一样的。Sigmoid函数具有单调性,值域在(0,1)之间,是一个完美的映射函数,可以将目标事件在样本上发生与否映射为概率。只不过在逻辑回归里,Sigmoid直接对f(x)进行转换,即Sigmoid(f(x));而在SVM中,对f(x)(即核函数)有学习参数,即Sigmoid((Af(x)+b))。
后验概率SVM的构造主要分为两个步骤:首先训练标准的SVM模型。得到核函数的参数;其次训练Sigmoid函数,得到Sigmoid的参数。这样就可以对标准的SVM模型的输出值进行Sigmoid处理,将其转化为后验概率。