机器学习——支持向量机SVM之非线性模型（原问题和对偶问题）

目录

一、原问题（prime problem）

二、原问题的对偶问题（dual problem）

1、定义一个辅助函数

2、定义对偶问题

>>>问题1：上面说到遍历w，那w的取值范围和取值步长是怎样的？即遍历的w从何处求得？

3、原问题与对偶问题解的关系（一个定理）

4、原问题与对偶问题的间距G——Duality gap（定义）

5、强对偶定理（G=0的特定情况）

6、KKT条件（由强对偶定理反推出的条件）

---

课程链接：《浙江大学-研究生机器学习课程》

上接：《支持向量机SVM之非线性模型（低维映射到高维）》

一、原问题（prime problem）

注：这里的w指的是问题中的待定系数，如在非线性问题中w代表的是w、b和松弛变量

二、原问题的对偶问题（dual problem）

1、定义一个辅助函数

注：这里的α表示的是原问题中限制条件中不等式约束中的待定系数；β表示原问题中限制条件中等式约束中的待定系数

2、定义对偶问题

>>>问题1：上面说到遍历w，那w的取值范围和取值步长是怎样的？即遍历的w从何处求得？

答：这里不需要求解，只是为了下一个定义罢了，具体继续往下看

3、原问题与对偶问题解的关系（一个定理）

4、原问题与对偶问题的间距G——Duality gap（定义）

5、强对偶定理（G=0的特定情况）

 

6、KKT条件（由强对偶定理反推出的条件）

具体如何将原问题转化为对偶问题，进而求解原问题：

《机器学习理论——支持向量机SVM之非线性模型（原问题转化为对偶问题）》