kernel SVM

接着上篇文章，SVM常被我们在进行特征转化时拿来刻画问题背后的规则而使用，因此我们希望求解优化问题时可以不依赖转化后的维数，所以在上一篇文章里推到了dual SVM 先求出α，利用α求出w和b。但是在利用QP求解α时，矩阵Q的每一项都两个样本转化后特征的内积，因此计算矩阵Q复杂度很大，不只是矩阵Q，在计算b时，也含有转化后特征与w的内积，我们能否找到一种方法可以很快的计算出与转化后特征有关的内积运算！本文就是推导一个所谓的kernel 函数来表示两个样本特征转化后再做内积运算的值。与先做转化在做内积不同，kernel函数直接利用原来样本的特征进行一些计算来代表高维度的内积运算。
先从一个二次特征转化开始做起，通过kernel代表两个步骤（转化+内积），利用kernel函数改变b和g的表达，可得：

最终可得使用二次kernel SVM的求解表达和流程：
上面的例子使用了一个系数为1的二次转化函数，将这个转化