机器学习(三):支持向量机

支持向量机是一种判别模型,它构建一个超平面使得距离这个超平面最近的点的距离最大。支持向量机的任务是在较低的模型泛化误差下寻找一个合适的超平面。

如果超平面的函数是如下表达式:

那么超平面与数据点(label=1)之间的几何关系为:

定义:几何间隔和函数间隔

因此,转换为带约束的优化问题:

我们无法保证数据是线性可分的,因此需要添加损失和松弛变量:

新的优化问题变成:

我们假设:

那么优化问题将为:

损失函数——Hinge Loss

Q:下面(1)式为什么可以由(2)式表式?

SVM的拉格朗日对偶问题

Q:什么是支持向量以及它的特征是什么?

Q:核的真实目的是什么?(不要告诉我是为了在高维空间线性可分)

阅读更多
上一篇机器学习(二):线性回归
下一篇机器学习(四):逻辑回归
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭