相同点:
(1)都是监督学习算法
(2)都是分类算法,都是判别模型 P(x|y)
(3)若SVM不考虑核函数,都是线性分类算法,决策面是线性的
不同点:
(1)测度不同,SVM是距离测度,基于几何间隔最大化作为度量原则;LR是概率测度,计算样本概率,用极大似然估计计算参数。因此,二者的loss function不同
(2)样本点对分类决策面的影响不同。SVM只有支持向量的样本(局部边界点)对最优决策面有影响,其他样本点对决策面没有影响。LR全局样本点对参数估计都有影响
(3)解决非线性分类的问题,SVM采用核函数,LR不需要采用核函数
(4)SVM 损失函数里自带正则化项,所以SVM是结构风险最小化算法;LR损失函数在解决过拟合时要加正则化项