数据挖掘第6周

Prince Fei

于 2021-10-28 12:04:09 发布

阅读量86

点赞数

文章标签：数据挖掘支持向量机机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/F_teenage_youth/article/details/121008052

版权

SVM（Support Vectors Machine）

仿射超平面：在n维空间中，自由度为(n-1)的一个“面”。在二维平面中，超平面是一条线；三维空间中，超平面是一个面；当n>3时，超平面仅为纯粹的数学概念。在n维空间中，超平面定义为

$w^{\top }x+b=0$ ，其中 $w,x$ 均为n维列向量， $w=(w_1,w_2,\cdots ,w_n)^{\top },x=(x_1,x_2,\cdots ,x_n)^{\top }$ 。

显然向量 $\omega$ 垂直与超平面。

在机器学习中，超平面将两个不相交的凸集分开。显然满足这样条件的超平面在n维空间中有无数个，但是与两个凸集间隔最大的超平面只有一个。

对于空间中任一点 $x$ 到超平面的距离 $M=\frac{|w^{\top }x+b|}{\left \| w \right \|}$ ，我们要求最大间隔， $M$ 便要最大，经过一系列的化简后， $maxM\Leftrightarrow max\frac{2}{\left \| w \right \|}\Leftrightarrow min\frac{1}{2}\left \| w \right \|^{2}$ ，在约束条件 $y(w^{\top }x+b)\geq 1,y=\pm 1$ 下。由于拉格朗日乘数法的约束条件的形式为 $\varphi (x)=0$ ，所以我们引入松弛变量 $\alpha$ ，使得 $g(w,b)=y(w^{\top }x+b)-1-\alpha ^{2}=0$

此时构造拉格朗日方程为 $L(w,b;\lambda )=\frac{1}{2}\left \| w \right \|^{2}+\lambda \left [ y(w^{\top }x+b)-1-\alpha ^{2} \right ]$ 【垃圾csdn】，即

$\frac{\partial L}{\partial w}=\left \|w \right \|+\lambda \left \| x \right \|=0$

$\frac{\partial L}{\partial b}=\lambda =0$

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
数据挖掘第6周

SVM（Support Vectors Machine）仿射超平面：在n维空间中，自由度为(n-1)的一个“面”。在二维平面中，超平面是一条线；三维空间中，超平面是一个面；当n>3时，超平面仅为纯粹的数学概念。在n维空间中，超平面定义为，其中均为n维列向量，。显然向量垂直与超平面。在机器学习中，超平面将两个不相交的凸集分开。显然满足这样条件的超平面在n维空间中有无数个，但是与两个凸集间隔最大的超平面只有一个。对于空间中任一点到超平面的距离，我们要求最大间隔，便要最大，经过一系列的化
复制链接

扫一扫

Prince Fei CSDN认证博客专家 CSDN认证企业博客

码龄6年

10: 原创

29万+: 周排名

34万+: 总排名

2659: 访问

: 等级

100: 积分

0: 粉丝

0: 获赞

0: 评论

0: 收藏

私信

关注

热门文章

您愿意向朋友推荐“博客详情页”吗？

强烈不推荐
不推荐
一般般
推荐
强烈推荐

提交

最新文章

目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。