【深度学习笔记整理-1.2.2】支持向量机

1.支持向量机的目的：
获取一个分类边界，这个边界可以最大化距离不同类别的最近点。
这样的边界可以拥有更好的抗噪声干扰性。
2.限制：
①分类正确
②margin=min类别到边界距离
于是，我们将这个问题转化为了一个maxmin的问题，并且我们的限制出现了不等式，于是需要KKT等算法，将原问题转化为其对偶问题求解。
3.支持向量机一般需要经过两步：
① 将数据映射到一个新的高维表示，这时决策边界可以用一个超平面来表示
注：这一步为解决一些线性不可分的情况，并且利用核函数，我们可以把多次的高次运算转化为一次运算的高次结果，利用RBF径向基核函数exp（-1/2（x1-x2）平方）及泰勒展开可将低维空间向量投射到无穷维
② 尽量让超平面与每个类别最近的数据点之间的距离最大化，从而计算出良好决策边界（分
割超平面），这一步叫作间隔最大化（maximizing the margin）。这样决策边界可以很好
地推广到训练数据集之外的新样本。