机器学习——（2）支持向量机

支持向量机（Support Vector Machine）

SVM是最大优化间隔（Margin）的分类算法

1.线性模型

线性可分（Linear Separable）
非线性可分（Non-Linear Separable）

1.1优化问题（凸优化问题、二次规划问题）

最小化（Minimize）：1/2||w||^2
限制条件：Yi(W^t Xi + b)>=1 i=1、2、3、4……
二次规划（Quadratic Programming）
1、目标函数（Objective Function）二次项
2、限制条件一次项。
凸优化只要有局部极值，就可以认为是解

2.非线性模型

2.1最小化

引入松弛变量，正则项（规范）

2.2高维映射

低维先行不可分的数据集，到了高维空间会比较容易被分开；无限高纬度被区分的概率趋向于1