SVM支持向量机算法笔记

支持向量机

支持向量机可用来做什么？

• 分类、回归（例如时间序列预测）、边界检测、聚类

什么是支持向量机？

SVM是一种可用于解决分类和回归问题的有监督机器学习算法，但更常用于分类。假设有两类或两类以上的数据，SVM可以作为一个区分性的分类器，它通常由一个可把所有数据都分开的最优超平面来定义。新的样本将根据它在此空间中映射到的位置进行分类。

支持向量又是什么？

支持向量就是离超平面最近的那些点。

超平面又是什么？

在二维平面上的数据点，将数据集分隔开的的直线称为分隔超平面；
如果数据集是三维的，用来分隔数据的将是一个平面；
如果数据集是N维的，对数据进行分隔的对象将是一个N-1维的超平面，也成为分类的决策边界。
【Tips】几乎所有的分类问题都可以使用SVM，SVM本身是一个二分类器，解决多分类问题需要对SVM代码进行一些修改。

优点：泛化错误率低，计算开销不大，结果易解释。
缺点：对参数调节和核函数的选择敏感，原始分类器不加修饰仅适用于处理二类问题。
适用数据类型：数值型和标称型数据。