数据挖掘领域十大经典算法之—SVM算法（超详细附代码）

相关文章：

• 数据挖掘领域十大经典算法之—C4.5算法（超详细附代码）
• 数据挖掘领域十大经典算法之—K-Means算法（超详细附代码）
• 数据挖掘领域十大经典算法之—Apriori算法
• 数据挖掘领域十大经典算法之—EM算法
• 数据挖掘领域十大经典算法之—PageRank算法
• 数据挖掘领域十大经典算法之—AdaBoost算法（超详细附代码）
• 数据挖掘领域十大经典算法之—K-邻近算法/kNN（超详细附代码）
• 数据挖掘领域十大经典算法之—朴素贝叶斯算法（超详细附代码）
• 数据挖掘领域十大经典算法之—CART算法（超详细附代码）

简介

SVM(Support Vector Machine)中文名为支持向量机，是常见的一种判别方法。在机器学习领域，是一个有监督的学习模型，通常用来进行模式识别、分类以及回归分析。

相关概念

分类器：分类器就是给定一个样本的数据，判定这个样本属于哪个类别的算法。例如在股票涨跌预测中，我们认为前一天的交易量和收盘价对于第二天的涨跌是有影响的，那么分类器就是通过样本的交易量和收盘价预测第二天的涨跌情况的算法。

特征：在分类问题中，输入到分类器中的数据叫做特征。以上面的股票涨跌预测问题为例，特征就是前一天的交易量和收盘价。

线性分类器：线性分类器是分类器中的一种，就是判定分类结果的根据是通过特征的线性组合得到的，不能通过特征的非线性运算结果作为判定根据。还以上面的股票涨跌预测问题为例，判断的依据只能是前一天的交易量和收盘价的线性组合，不能将交易量和收盘价进行开方，平方等运算。

线性分类器起源

在实际应用中，我们往往遇到这样的问题：给定一些数据点，它们分别属于两个不同的类，现在要找到一个线性分类器把这些数据分成两类。

怎么分呢？把整个空间劈成两半呗（让我想到了盘古）。用二维空间举个例子，如上图所示，我们用一条直线把空间切割开来，直线左边的点属于类别-1（用三角表示），直线右边的点属于类别1（用方块表示）。

如果用数学语言呢，就是这样的：空间是由X1和X2组成的二维空间，直线的方程是X1+X2 = 1࿰