每天五分钟机器学习：支持向量机算法数学基础之核函数

本文重点

从现在开始，我们将开启支持向量机算法的学习，不过在学习支持向量机算法之前，我们先来学习一些支持向量机所依赖的数学知识，这会帮助我们更加深刻的理解支持向量机算法，本文我们先来学习核函数。

定义

核函数（Kernel Function）是一种在支持向量机（SVM）、高斯过程等机器学习算法中广泛使用的函数。它的主要作用是将低维空间中的数据映射到高维空间，从而使得在低维空间中线性不可分的数据在高维空间中变得线性可分。

设x,z∈X（X是输入空间），核函数K(x,z)定义为映射函数的内积，即K(x,z)= φ(x)· φ(z)，其中φ：X->F（X是特征空间，通常F是高维空间）。

常见的核函数类型

线性核函数

它本质上是没有进行非线性映射，主要用于数据本身就是线性可分的情况。例如，在简单的二维平面上，数据点可以通过一条直线很好地分开，就可以使用线性核函数

多项式核函数<