这篇文章是阅读JULY大神支持向量机通俗导论(理解SVM的三层境界)的一点学习笔记。
在JULY大神原文中,对核函数解释的时候,点和点的坐标表示混用了”X”这个字母,从而为理解带来了不便。于是自己经过一些验算和重写之后,有了这一学习笔记。
我们知道,核函数的提出是在解决SVM在将低维线性不可分数据映射成高位线性可分时提出来的,于是我们直接从此开始。
对于下图(来源于导论原文)的两类数据
我们可以用一个圆将它们区分开,这个二维上的点坐标为 (p,q) 于是,圆我们可以用一个二次方程表示:
a1p+a2p2+a3q+a4q2+a5pq+a6=0
根据这一方程的形式,我们构造一个五维空间,其上点与二维平面的映射关系为
(Z1,Z2,Z3,Z4,Z5)=(p,p2,q,q2,pq)(1.1)
于是原二次方程即变为:
∑i=15aiZi+a6=0
即αZ+a6=0
即一个超平面方程,通过SVM知识我们知道,这个超平面正是在五维空间上线性划分两类数据的超平面。
那么是否对于式子,
f(x)=∑i=1