机器学习----支持向量机（核函数）

#线性不可分 我们的SVM是找到一条分割直线，但是如果线性不可分怎么办？如下图：

可以看出，是有一个明显的分割线的，但是不是直线，这种情况下我们怎么用SVM呢？我们可以找到一种变化，让变换后的数据线性可分，用图形象的表示为：

图中的$\phi$就是我们找到的线性变化。至此我们就能解决线性不可分问题。

核函数

我们接着说线性不可分问题。我们怎么找$\phi$呢？有个想法是这样的：
比如原始数据满足的是二次函数规律那把原来的X,扩展成[X | X²]的形式，这样我们就又能进行线性回归了。同理，如果是三次，就扩展成[X | X²| X³],记作$\phi(x)$。
正常线性可分问题dual问题为：

$$\mathop{max}_{\alpha} \sum_{i}^{p}\alpha_i-\frac{1}{2}\sum_{i,j=1}^{p}y_iy_j\alpha_i\alpha_jx_i^{\mathop{T}}\cdot x_j$$