matlab svm使用教程,SVM算法及最简单的matlab实现

SVM算法：

Support Vector Machine (SVM，支持向量机) 是一种监督学习方法，能最小化经验误差和最大化几何边缘，被称为最大间隔分类器，可以用于分类与回归分析。最早的相关论文是美国贝尔实验室的Corinna Cortes和Vladimir Vapnik等人于1995年在Machine Learning杂志上提出的Support Vector Networks，引用次数已超过12600次。

基本原理：SVM是一个机器学习的过程，在高维空间中寻找一个分类超平面，将不同类别的样本点分开，使不同类别的点之间的间隔最大，该分类起平面即为最大间隔超平面对应的分类器，称为最大间隔分类器。对于二分类问题，如下图所示：

关于SVM算法的一个详细介绍，请参考下面的连接，写的非常好：

http://www.voidcn.com/article/p-boprcxjk-dk.html

SVM优点：泛化错误率低，计算开销不大，结果易解释。

SVM缺点：对参数调节和核函数的选择敏感，原始分类器不加修改则仅适用于处理二分类问题。

SVM适用数据类型：数值型和标称型。

SVM算法实现工具有很多，包括SVMlight，LibSVM，还有matlab本身自带的svm工具包等。

SVM实现多分类

虽然SVM本质上是二分类的分类器，但是可以扩展成多分类的分类器，常见的方法有一对多(one-versus-rest)和一对一(one-versus-one)。

常见的方法有one-against-one和one-against-all两种。

a. 一对多法(one-versus-rest,简称OVR SVMs)。训练时依次把某个类别的样本归为一类,其他剩余的样本归为另一类，这样k个类别的样本就构造出了k个SVM。分类时将未知样本分类为具有最大分类函数值的那类。

假如我有四类要划分(也就是4个Label)，他们是A、B、C、D。于是我在抽取训练集的时候，分别抽取A所对应的向量作为正集，B,C,D所对应的向量作为负集；B所对应的向量作为正集，A,C，D所对应的向量作为负集；C所对应的向量作为正集， A,B,D所对应的向量作为负集；D所对应的向量作为正集，A,B,C所对应的向量作为负集，对这四个训练集分别进行训练，然后的得到四个训练结果，在测试的时候，把对应的测试向量分别利用这四个训练结果文件进行测试，最后每个测试都有一个结果f1(x),f2(x),f3(x),f4(x).于是最终 的结果便是这