支持向量机(Support Vector Machine,SVM)是一种监督学习算法,用于分类和回归分析。它是由Cortes和Vapnik于1995年提出的。SVM在解决小样本、非线性及高维模式识别中表现出许多特有的优势,并能够推广应用到函数拟合等其他机器学习问题中。
目录
一、SVM的基本概念:
-
超平面:
- 在二维空间中,超平面是一条直线;在三维空间中,它是一个平面;在高维空间中,它是数据的线性分割。
- SVM的目标是找到一个最优的超平面,这个超平面能够最好地将两类数据分开。
-
间隔(Margin):
- 间隔是指超平面与最近的训练样本之间的距离。这个距离越大,分类器的泛化能力就越强。
- SVM试图最大化这个间隔,因为这样可以增加模型对未知数据的预测能力。
-
支持向量:
- 支持向量是指那些影响到超平面位置的训练样本,即位于最大间隔边界上的样本点。
- 这些样本点对模型的构建至关重要,因为它们决定了超平面的位置。