机器学习笔记(8)VC维 (vc dimension)

最新推荐文章于 2022-12-27 21:16:49 发布
最新推荐文章于 2022-12-27 21:16:49 发布
阅读量792 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/A13155283231/article/details/78707480
版权

这里写图片描述

这里有个图像，在 dvc 比较小的情况下会出现欠拟合(underfitting),
在 dvc 比较大的情况下会出现过拟合(overfitting), 所以训练集过大也不好过小也不好，最好在那个虚线范围左右最好。

vc维 是 由 vc bound 推导的，类似于一个样本集可以由多少条直线平分,一步步推导出来的，可能是一个函数。
这样理解不知道对不对哈~~

ruofeng133
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习-VC维
05-07
包含监督学习与非监督学习的基本概念，VC维，概率逼近学习的基本原理
VC维（VC Dimension）
qq_43391414的博客
12-25 8694
定义 VC Dimension：全称是Vapnik-Chervonenkis dimension。其用来衡量一个模型的复杂度，定义为：在该模型对应的空间中随机撒x点，然后对其中的每个点随机分配一个2类标签，使用你的模型来分类，并且要分对，请问x至多是多少。这个x就是VC维。 例子 1.线性函数 如果选用二维空间中的直线作为判别函数，该分类模型的VC维是多少？ 答案：3 解释：如果是3个点，无论如何随机的打标签，都存在一条直线都可以将两类样本分开。 如果是4个点，就可能会出现一种标签序列，使得不存在一条直线将
机器学习基础--VC Dimension
weixin_41943868的博客
02-18 1459
主要参考： http://www.mamicode.com/info-detail-1148920.html https://blog.csdn.net/yc1203968305/article/details/78574174 https://blog.csdn.net/dQCFKyQDXYm3F8rB0/article/details/87484494 VC Dimension 作用：...
Set集合的应用场景-穿梭框
BiaoYuShiYin的博客
11-18 1163
Set集合的应用场景-穿梭框 @(Python学习-随手记)[python, 帮助, Python] 问题产生 如果需求说现在需要做个穿梭框，作为后端人员如何处理后端数据，形如： [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-h9X7Jtoo-1605691029658)(./1605689644527.png)] 解决问题 方式一：前端把选中的数据和取消的数据一并传给后端 方式二：前端把只选中的数据发送给后端，后端将原始数据全部干掉，再按照新的选中数据添加
机器学习基石1（ML基本概念和VC dimension）
weixin_39861267的博客
12-27 1182
ML基本概念和vc dimension
《机器学习基石》学习笔记 7 The VC Dimension
Wolf_xujie的博客
06-03 262
前几节课着重介绍了机器能够学习的条件并做了详细的推导和解释。机器能够学习必须满足两个条件： 假设空间 H 的 Size M 是有限的，即当 N 足够大的时候，那么对于假设空间中任意一个假设 g，Eout≈EinE_{out} \approx E_{in}Eout​≈Ein​。 利用算法 A 从假设空间 H 中，挑选一个 g，使 Ein(g)≈0E_{in}(g) \approx 0Ein​(g)≈0，则 Eout≈0E_{out} \approx 0Eout​≈0。 这两个条件，正好对应着 test 和
《机器学习-周志华》学习笔记
最新发布
10-17
为了训练一个真正有效、优化的模型，需要学习一下机器学习的理论知识。周志华的教材非常经典，但概念较多，特别是前两章，在学习中作了笔记，现分享出来，希望能有帮助。
西瓜书机器学习的学习笔记（十分详细）
06-10
学习了机器学习的基础以及相关理论，颇有收获，并做了相关笔记，对于机器学习有了更为深入的理解，为以后的学习以及研究打下基础。 主要内容包含以下相关主题： - 模型的评估与选择 - 神经网络 - 支持向量机 - ...
机器学习笔记完整版.pdf
09-28
机器学习笔记的广泛下载和使用证明了其在学习者中的实用价值和受欢迎程度。作者还明确表示，笔记中的内容是基于吴恩达的视频课程内容制作的，并且经过了自己的理解和加工。对于笔记中存在的任何错误，作者提供了联系...
机器学习笔记
12-20
机器学习笔记 机器学习是人工智能领域中一个核心概念，涉及到大量的算法和数学原理。在这个笔记中，我们将介绍机器学习的基本概念、监督学习、非监督学习、强化学习、线性回归、梯度下降、正规方程组等。 机器学习...
斯坦福大学机器学习课程个人笔记完整版
09-04
斯坦福大学机器学习课程个人笔记完整版.pdf 目录 (1)线性回归、logistic回归和一般回归 1 (2)判别模型、生成模型与朴素贝叶斯方法 10 (3)支持向量机SVM（上） 20 (4)支持向量机SVM（下） 32 (5)规则化和模型选择 45 (6)K-means聚类算法 50 (7)混合高斯模型和EM算法 53 (8)EM算法 55 (9)在线学习 62 (10)主成分分析 65 (11)独立成分分析 80 (12)线性判别分析 91 (13)因子分析 103 (14)增强学习 114 (15)典型关联分析 120 (16)偏最小二乘法回归 129
数据挖掘之VC维、Shatter、VC-dim以及Margin有关的通理
蒋大钊的博客
10-18 1070
梳理港中文课上关于VC-dimension，VC-Based Theorem和Margin-Based Theorem的梳理和理解。
深入学习理论：VC维（VC dimensions）
Machine Learning with Tutors
04-20 7755
这篇文章主要是从第二个式子来讨论问题，就是主要分析模型的泛化能力，推导模型的复杂程度和泛化能力之间的关系（也就是表征系统复杂度的vc维和泛化误差之间的关系）。vc维在这里面起到了一个惩罚项的作用，它所表征的是模型的复杂程度，当模型越复杂的时候，vc维越大，泛化能力就越差；（其实在这里我们可以换一种说法来描述“模型的种类”——模型的复杂度，从上面可以看出，模型越复杂的时候，1.第一个式子反映了平均意义下，我们所训练的模型预测的好坏，趋于0就代表模型预测的效果越好。自然而然的，首先想到的是尽量的让。
【机器学习基石】VC dimension（七）
taoxing
08-14 741
目录写在前面1. VC dimension 的定义2.3.4. 写在前面 1. VC dimension 的定义 ∙\bullet∙ 首先我们对上一次的内容进行一下回顾。 上一次我们证明了 B(N,k)B(N,k)B(N,k) 存在上限的上限为 Nk−1N^{k-1}Nk−1。根据下面具体的表格内容显示，我们发现当 N≥2，k≥3N≥2，k≥3N≥2，k≥3 时，完全可以写成（简化了等式）： mH(N)≤Nk−1m_{H}(N)≤N^{k-1}mH​(N)≤Nk−1 那么上一次提到的公式也可以进行转换
机器学习笔记之十七——VC dimension
D的博客
02-06 678
定义   VC维（外文名Vapnik-Chervonenkis Dimension）的概念是为了研究学习过程一致收敛的速度和推广性，由统计学理论定义的有关函数集学习性能的一个重要指标。 传统的定义是：对一个指示函数集，如果存在H个样本能够被函数集中的函数按所有可能的2的H次方种形式分开，则称函数集能够把H个样本打散；函数集的VC维就是它能打散的最大样本数目H。若对任意数目的样本都有函数能将它...
VC Dimension (VC 维)
丁磊_ml的博客
08-06 1796
vc维
VC维（VC dimension）
热门推荐
My Sunshine
08-05 1万+
参考文献：learning from data——Yaser S. Abu-Monstafa/ Malik Magdon-Ismail / Hsuan-Tien Lin
【机器学习基石笔记七】-----The VC Dimension（VC维数）
菜菜鸟的博客
09-11 1万+
之前的几节着重介绍了机器学习可行的条件并做了详细的推导解释，机器学习可行必须满足两个条件： 假设空间hypothesis sets的size M的大小有限，即当N足够大的时候，那么对于hypothesis sets中任意一个假设g，； 利用演算法A从hypothesis sets中选一个函数g，是，则； 这两个条件对应着test和train两个过程。train的目的是使损失期望，test的目的...
7 - VC维度（VC Dimension）-- 衡量模型与样本的复杂度
weixin_33829657的博客
03-31 681
2019独角兽企业重金招聘Python工程师标准>>> ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值