第二章 支持向量机SVM

一、SVM（线性可分定义）

线性可分（Linear Separable）

线性不可分（Nonlinear Separable）


特征空间维度>=四维 ---- 超平面（Hyperplane）

假设 我们有N个训练样本和他们的标签

在二分类情况下，如果一个数据集是线性可分的，即存在一个超平面将两个类别完全分开，那么一定存在无数多个超平面将这两个类别完全分开。

向量偏导定义：

二、SVM（问题描述）

支持向量机寻找的最优分类直线应满足（基于二维）：
（1）该直线分开了两类
（2）该直线最大化间隔（margin）
（3）该直线处于间隔中间，到所有支持向量距离相等

三、SVM（优化问题）

四、SVM（线性不可分情况）

五、SVM（低维到高维的映射）

六、SVM（核函数定义）

七、SVM（原问题和对偶问题）

八、SVM（转化为对偶问题）

支持向量机的原问题满足强对偶问题

九、SVM（算法总体流程）