线性分类器有三大类:感知器准则函数、SVM、Fisher准则,而贝叶斯分类器不是线性分类器。
感知器准则函数:代价函数J=-(W*X+W0),分类的准则是最小化代价函数。感知器是神经网络(NN)的基础,网上有很多的介绍。
SVM:支持向量机也是很经典的算法,优化目标是最大间隔(margin),又称最大间隔分类器,是一种典型的线性分类器。(使用核函数可解决非线性问题)
Fisher准则:更广泛的称呼是线性判别分析(LDA),将所有样本投影到一条原点出发的直线,使得同类样本距离尽可能小,不同类样本距离尽可能大,具体为最大化“广义瑞利熵”。
贝叶斯分类器:一种基于统计方法的分类器,要求先了解样本的分布特点(高斯、指数),所以使用起来限制很多。在满足一些特定条件下,其优化目标与线性分类器有相同的结构,其余条件下不是线性分类器。