注:本文只是本人阅读西瓜书及南瓜书的阅读笔记和心得,可能只有自己能看懂,鉴于本人水平有限,有极大可能出现错误,欢迎读者批评指正
1、支持向量机(support vector machine,SVM)
支持向量机是一种二分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器,间隔最大使他有别于感知机。支持向量机的学习策略就是间隔最大化,也可形式化为求解一个凸二次规划问题。
2、间隔与支持向量
对于(6.5)式,可以写成以下形式
这就是支持向量机的基本型
3、拉格朗日对偶
对于支持向量机的基本型求解,这里使用拉格朗日乘子法,并得到其对偶问题。
拉格朗日函数:
对w,b求下确界: (1)
对w,b分别求偏导并使其偏导等于0:
带入(1)式并求最大值就得到了原问题的对偶问题
(后续完善)