支持向量机(一)
支持向量机(suport vector machines,SVM),一种二类分类模型
基本模型:定义在特征空间上的间隔最大的线性分类器。(与感知机的区别)
核技巧的引入使它成为实质上的非线性分类器。
学习策略:间隔最大化,可形式化为一个求解凸二次规划问题。
支持向量机学习方法模型有三种:线性可分支持向量机(linear support vector machine in linearly separable case)
线性支持向量机(linear support vector machine)
非线性支持向量机(non-linear support vector machine)
训练数据 | 训练方法 | 模型 |
线性可分 | 硬间隔最大化 | 线性可分支持向量机 (硬间隔支持向量机) |
近似线性可分 | 软间隔最大化 | 线性支持向量机 (软间隔支持向量机) |
线性不可分 | 核技巧及软间隔最大化 | 非线性支持向量机 |
当输入空间为欧式空间或离散集合、特征空间为希尔伯特空间时,核函数表示将输入从输入空间映射到特征空间得到的特征向量之间的内积。