SVM算法(support vector machines,支持向量机)
(一)、算法核心思想
SVM算法最初是为二值分类问题涉及的,是一个二分类的分类模型(分类器),当处理多分类问题时,需要我们构造合适的多类分类器。这里以最简单的二分类问题来记录。给定一个包含正例、反例的样本集合,SVM的目的是寻找一个超平面分割线(在二维中实质就是一条线,三维中就是一个平面)来对样本进行分割。
例如上图,我们有三条直线可以将样本划分,但是哪一个划分是最好的?这就是SVM所要研究解决的问题。
设一条直线 G(x) = W * X + b = 0 为最优的分割线(超平面),将样本分为两类,我们的任务就是怎样获得最优直线并求得 W 和 b 的值,在 SVM 中就是支持向量和超平面最小距离的最大值(距离超平面最近的点 有最远的距离,就是最优的超平面);
注:SVM的二分类特别重要,在超平面 W * X + b = 0 确定的情况下,|W * X &#