机器学习技法-------作业一

本文深入探讨了Soft Margin SVM的目标函数,解释了其变量含义,并介绍了如何选择Z空间数据分布。文章重点讨论了多项式核函数的参数设置,如C、d、γ和r的影响,并展示了如何利用拉格朗日对偶条件和KKT条件求解问题。同时,分析了C值对模型的影响,指出C越大,模型越倾向于过拟合,支持向量距离分割面的距离也会增加。
摘要由CSDN通过智能技术生成

在这里插入图片描述
对于原始的soft margin svm
目标函数为
w,b,ζ 1/2 ||w|| 2+∑i ζi 其中w 为d个 ζ为N个 b为一个 因此总共 N+d+1 个变量

在这里插入图片描述
将各个点代入到转换函数中 求得z空间数据分布如下
在这里插入图片描述
所以选z1=4.5

在这里插入图片描述
常用的核函数有如下几种
在这里插入图片描述
对于题目中使用polynomial核函数 d=2 r=1 γ=1
对于多项式核函数 有四个参数需要设置。
C为惩罚系数 C越大越容易过拟合 即对错误的容忍程度越低 C越小对错误容忍越高 对于Hard Margin 可以设置一个很大的C
-d用来设置多项式核函数的最高次项次数,也就是公式中的d,默认值是3。-g用来设置核函

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值