SVM 推导
为什么转换为对偶问题
《统计学习方法》上给出的答案是:
- 对偶问题往往更容易求解;
- 自然引入核函数。
- 网友的理解:(https://www.cnblogs.com/crackpotisback/p/8674534.html)
- 对偶问题将原始问题中的约束转为了对偶问题中的等式约束
方便核函数的引入;
改变了问题的复杂度。由求特征向量w转化为求比例系数a,在原始问题下,求解的复杂度与样本的维度有关,即w的维度;
在对偶问题下,只与样本数量有关。
KKT条件
核函数:线性核函数,非线性核函数,区别,各自的用途
- 核函数:当样本数据需要映射到高维时,需要显示表达映射函数核特征空间(由于特征空间维度大计算量大甚至无法计算),核函数的作用就是在低维度