《统计学习方法》笔记（十）--SVM(2)

线性支持向量机和软间隔最大化

解决有一些特异点造成的数据集线性不可分的问题

将约束条件变为yi*(w*x+b)>=1-z，把z叫做松弛变量是非负的实数；

目标函数也由原先的0.5||w||^2，变为0.5||w||^2+c*sum(zi），c是对误分类的惩罚。

解决这个凸二次规划问题的算法仍然是通过对偶问题的求解来得到原始问题的解

 

合页损失函数：[1-y*(w*x+b)]

通过合页损失的引入将凸二次规划问题等价于最优化问题

MATLAB中有相应的svmtrain ,svmclassify进行处理