dw机器学习SVM

最新推荐文章于 2022-05-14 20:08:27 发布
最新推荐文章于 2022-05-14 20:08:27 发布
阅读量666 收藏
点赞数 1
分类专栏： DataWhale机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/elsieyin/article/details/105879807
版权

比赛还有3天ddl 实在没空
水一下 啃一下老本
“你学了3遍SVM了，你应该会SVM了”（然而并不会，我这写的是啥我已经完全不记得了，（可能当时就不懂吧，以后再看吧55555））
smo一直不会，收藏了一篇博文
，以后在学了

大概学了3遍SVM
好像还是不太会

一般说SVM有三宝：对偶 间隔 核技巧

感知机

这里先写一下感知机，感觉两者有丢丢像
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

拉格朗日对偶性

这一块到现在也不是很掌握
但是确实是SVM的核心内容之一 事实上该方法在很多地方都有使用，为什么原问题要转化为对偶问题呢？
这一块朋友的回答是这样的，待考证：对偶在满足kkt条件下有一个非常非常好的性质对偶的duality函数最优值等于primal 函数最优值。且对偶不管原函数是否为convex，换成拉格朗日对偶就是convex的。有一点对偶求出来了x的转置乘以x可以用核函数表示，也就是说，可以找到一个核函数映射到再生希尔伯特空间，你不需要找到映射关系是怎样的，你只管核函数是怎样的就可以转化为高维空间，在高维空间里面进行线性不可分的分割，所以要用对偶。当然你也可以不用对偶，直接用辛吉函数导出来的那个函数直接优化，只是求导的时候比较麻烦。还有的书上说当维度大于样本的时候对偶方法不一定快过直接求损失函数方法。拉格朗日对偶还有一种用法，就是对偶的最优值是原函数最优值的下界，也就是说dstar小于等于pstar，可以用这个性质来确定优化中，原函数最优值里最优值还有多少距离。不满足kkt条件下也适用。
啥意思呢？反正我是看不懂。
在这里插入图片描述
在这里插入图片描述

简单理解

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

Dual Derivation

在这里插入图片描述

串起来一气呵成推一遍

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

最大分离超平面存在唯一性证明

在这里插入图片描述

Kernel Method

在这里插入图片描述

这一块我看的是台大李老师的 还挺清楚 看完就忘

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

elsieyin
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
DW李宏毅机器学习Task1
momokofly的博客
09-13 127
通过Task1了解机器学习与AI，机器学习与深度学习的关联，以及机器学习中主要的学习方法。
dw机器学习 HMM CRF
elsieyin的博客
04-29 207
有个比赛要due了，没空学习，啃下老本，这块的内容真是又多又难阿，不懂5555 HMM 概率图模型 HMM基本假设 HMM两个空间 三组参数 HMM的三个基本问题 概率问题计算 维特比算法 CRF 不会阿太忙了 来不及学 还有个拟牛顿法的推导，不截图了 ...
DW机器学习task1
royryan97的博客
08-20 202
逻辑回归是一个分类算法，它可以处理二元分类以及多元分类。虽然它名字里面有“回归”两个字，却不是一个回归算法。那为什么有“回归”这个误导性的词呢？个人认为，虽然逻辑回归是分类模型，但是它的原理里面却残留着回归模型的影子，本文对逻辑回归原理做一个总结。 从线性回归到逻辑回归 　　　　我们知道，线性回归的模型是求出输出特征向量Y和输入样本矩阵X之间的线性关系系数θ，满足Y=Xθ。此时我们的Y是连续的，所以是回归模型。如果我们想要Y是离散的话，怎么办呢？一个可以想到的办法是，我们对于这个Y再做一次函数转换，变为
DW_机器学习基础_task04
weixin_46121800的博客
03-24 87
超参数调优 参数与超参数： 参数是模型内部的配置变量，值可根据数据进行估计 预测时需要参数 参数定义了可使用的模型 参数是从数据估计或获悉的 参数通常不由编程者手动设置 参数通常被保存为学习模型的一部分 参数是机器学习算法的关键，通常由过去的训练数据中总结得出 —————————————————————————————— 超参数是模型外部的配置，其值无法从数据中估计 用于帮助估计参数 由人工指定 可以使用启发式设置 经常被调整为给定的预测建模问题 网格搜索GridSearchCV 顾名思义：
多类 SVM 的损失函数及其梯度计算
04-29 5023
CS231n Convolutional Neural Networks for Visual Recognition —— optimization1. 多类 SVM 的损失函数（Multiclass SVM loss）
SVM_机器学习_
10-04
支持向量机（Support Vector Machine，SVM）是机器学习领域一种重要的二分类算法。它通过构造一个超平面，使得不同类别的样本被最大程度地分隔开，从而达到最佳分类效果。SVM的核心思想是在训练过程中寻找最优的决策...
邹博机器学习 - SVM实践
最新发布
04-01
综上所述，SVM 是一种强大的机器学习算法，在多种应用场景中表现出色。通过对 SVM 的深入理解和合理参数调整，可以有效解决分类和回归问题，并在不平衡数据的情况下获得较好的性能。此外，通过评估模型的各项性能...
DW机器学习入门学习记录02 - 决策树算法与集成学习基础
CinKKKyo的博客
08-22 391
目录决策树算法原理[^1] [^2]直观理解数学角度信息增益信息增益比决策树的生成ID3C4.5CARTEnsemble Learning[^3]常见方法BaggingBoostingStacking随机森林、XGBoost、LightGBM 和 GBDT 决策树算法原理1 2 直观理解 数学角度 下图所示为信息熵的定义： 熵H§越大时，表示信息的不确定性越大。 当我们还没开始判断的时候，对于这个苹果的不了解程度是最高的，接下来我们对颜色进行了一次判断，对苹果开始有了初步的了解。虽然可能还不太确定它是好的
DW第五次打卡——SVM
CSDNccfcsp的博客
04-29 380
支持向量机算法（Support Vector Machine，SVM） SVM 硬间隔原理 SVM 软间隔 SMO 求解SVM 代码设计 SVM:所谓“支持向量”是指那些在间隔区边缘的训练样本点（即会遇到有些点很接近分割面，所以找个最优分割面），“机”是指算法。就是要找到具有最大间隔的分隔面，实际上是解决的是一个最优分类器设计的问题。 这是一种二分类模型，它基本模型是定义在特征空间上的间隔最大的...
DW数据挖掘学习总结
weixin_43314076的博客
08-25 281
主要收获： 可视化基础更加坚固并可以根据图来解释 对时间序列模型及分解有了初步的认识 对特征处理与选择的重要性和基础已经明白 学会了根据周期因子预测接下来一段时间的数据 学习了利用机器学习算法来构建预测模型 后续学习目标： 在复现的基础上有更好的idea 对用到的模型和算法要更加熟练的运用 在小组及群里获得优秀资料要充分利用，相互学习 ...
DW打卡-DAy1机器学习三大任务
Shirley_L77的博客
03-16 217
机器学习导论 有监督学习 回归 分类 无监督学习
机器学习性能评估指标 ROC
Chunying27的博客
01-16 1166
最近在看人脸识别的论文，查了几个比较重要的定义，用于评估二分类问题的预测结果 相关 不相关 预测到的 ： A(tp) B(fp) 误报 你没预测到的 ： C(fn)漏报 D(tn)准确率：（对的对，错的错的比例）(A+D)/(A+B+C+D) 精确率 （查准：查到的是准的）precision(P) = A
机器学习性能指标
sheriMMM的博客
05-14 430
该篇内容主要总结如下博客链接 【机器学习笔记】：一文让你彻底理解准确率，精准率，召回率，真正率，假正率，ROC/AUC - 知乎 [白话解析] 通过实例来梳理概念 ：准确率 (Accuracy)、精准率(Precision)、召回率(Recall)和F值(F-Measure) - 罗西的思考 - 博客园 1. 理解混淆矩阵 混淆矩阵中有着Positive、Negative、True、False的概念， 其意义如下： 预测类别为1的为Positive（阳性），预测类别为0的为Neg...
机器学习-性能指标
cunzai1985的博客
09-22 553
机器学习-性能指标 (Machine Learning - Performance Metrics) Advertisements 广告 Previous Page 上一页 Next Page 下一页 There are various metrics which we can use to evaluate the performance of ML alg...
机器学习性能评估指标
soohoo
01-05 1456
文章目录1、Accuracy：准确率2、Precision：精确率/查准率3、Recall：召回率/查全率4、F-Score：F值 混淆矩阵： True Positive (TP)：真正例，正类预测为正类数； False Negative (FN)：假反例，正类预测为反类数； False Positive (FP)：假正例，反类预测为正类数； True Negative (TN)：真反例，反类预测为反类数； 1、Accuracy：准确率 准确率Accuracy:预测正确的样本（TP+TN）占总样本的比例
机器学习svm源代码
12-31
支持向量机（Support Vector Machine，SVM）是一种常用的机器学习算法，它可以用于分类和回归分析。SVM能够找到一个超平面，将不同类别的数据点有效地分开。 实现一个简单的SVM源代码，可以基于Python编程语言和...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值