关于SVM线性超平面的理解

优化问题：
最小化代价函数 w方：代价函数是可以根据实际问题进行选择、缩放、变换的，例如由凹变凸函数（绝对值变平方）。类别由0、1变为1，-1，因为这样可以用一个公式表示两类

1、拉格朗日算子：求解等式限制条件极值。原理是组合目标方程和约束条件，极值点在导数为0处取得。
2、对偶问题：对偶问题的实质是在min max=max min情况下（KKT），先求解容易求导的变量。
3、KKT条件(非等式约束)：假设极值点在边界，KKT不等式则变为等式取极值（变相的拉格朗日）
4、凸函数：集合内部任意两点的连线还在集合内部
6、求解步骤:
第一，变为对偶问题后，先对w,b求导使目标函数导数为0，用拉格朗日算子表示wh和b
第二,将w,和b的表达式代入原目标方程，只剩下拉格朗日算子变量，根据kkT条件，使用SMO求解算子
第三，求得拉格朗日算子后，带入目标函数求解w,b
第四，测试时，只需要计算wx+b=ay<x,x>,其实还是内积，即可判断类别
7、支持向量（高维）：真正对函数判别式有用的是支持向量。在测试时，只需要计算内积，而有用的内积只有少数支持向量，因为更远的向量，在目标函数中值为0 .
8、核函数:原始优化目标求解时，使用的是原始空间内积。核函数平方的作用，其实是相当于映射到高维度。将原本需要先对变量映射再内积的运算转换为直接在低维空间运算。例如：