支持向量机SVM和最小二乘支持向量机LSSVM

支持向量机SVM

SVM在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中

目标

找到一个超平面,使得它能够尽可能多的将两类数据点正确的分开,同时使分开的两类数据点距离分类面最远。

超平面

SVM考虑寻找一个满足分类要求的分割平面(超平面)，并使训练集中的点距离该分割平面尽可能地远，即寻找一个分割平面，使其两侧的空白区域(margin)最大。超平面是从n维到n-1维空间的一个映射子控空间

解决方案

解决方法:构造一个在约束条件下的优化问题,具体的说是一个约束二次规划问题(constrainedquadratic programing),求解该问题，得到分类器。
也就是说，为了找到最大间隔的划分超平面，也就是上面图上的r最大，也就是1/w最大，等价于最小化w**2。就这

非线性SVM

虽然线性SVM分类器是有效的，并且在许多情况下令人惊奇地工作，但是许多数据集是不能接近线性分离。处理非线性数据集的一个简单方法是添加更多的特征，例如多项式特征，有时这可以导致线性可分离的数据集。通过生成多项式特征，我们将具有一个新特征矩阵，该特征矩阵由具有小于或等于指定度数的特征的所有多项式组合组成。

核技术

这个不是核弹的核技术ÿ