基本概念
Support Vector Machine (SVM): SVM is a supervised learning method used for both classification and regression tasks. It’s based on the concept of finding a hyperplane that best divides a dataset into classes. The best hyperplane is the one that represents the largest margin between two classes. Support vectors are the data points nearest to the hyperplane; these points are more critical to the decision process because they help define the margin.
支持向量机 (SVM):SVM 是一种用于分类和回归任务的监督学习方法。它基于寻找最能将数据集划分为类的超平面的概念。最佳超平面是表示两个类之间最大间隔或边距的超平面,支持向量是最接近超平面的数据点。
以上涉及到的关键点在下文会详细解释。
Why called “Machine”
“支持向量机”(SVM)中的术语“机器”来自计算机科学和人工智能的历史背景。从历史上看,许多计算算法和模型被称为“机器”。这个术语可以追溯到该领域兴起的时候,算法或计算模型的概念像“机器”一样运作,是将其处理数据或解决问题的自动化、系统化方法概念化的一种方式。
算法即机器:SVM 算法可以被认为是一台“机器”,它自动处理数据以在给定数据集中找到最佳分离超平面。这种类似机器的功能强调其自动高效运行的能力,类似于物理世界中机器的运行方式。
注意:支持向量机(SVM)实际上并不是深度学习的一部分;相反,它是一种机器学习模型,主要用于分类任务。深度学习和支持向量机是更广泛的人工智能领域中截然不同的方法。
What is hyperplane(超平面)
几何概念:在几何学中,超平面可以被认为是更高维度的平面的泛化。在二维空间中,超平面是一条线。在三维空间中,它是一个平面。在更高的维度上,虽然很难可视化,但超平面本质上扩展了这个概念。
在 SVM 的上下文中:在 SVM 中,超平面用于分隔不同类别的数据点。对于在二维空间中具有两个类的简单情况,超平面是一条划分空间的线,其方式是,一个类的数据点位于线的一侧,而另一个类的数据点位于另一侧。
最佳超平面:在 SVM 的上下文中,目标是找到最大化两个类之间margin的最佳超平面。
数学定义:在数学上,超平面可以用方程 w ⋅ x + b = 0 来描述,其中 w 是权重向量,x 是输入向量 ,b 是偏差。权重向量决定了超平面的方向,而偏置决定了它与原点的偏移量。
What is margin
margin 定义为超平面与任一类最近的数据点之间的距离。
What is support vector
离超平面最近的数据点称为 support vector,它们对于确定超平面的位置和方向至关重要。