基石7 VCbound

本文探讨了VC维(VC Dimension)在机器学习中的作用,指出当成长函数mH(N)在某个k处出现一线曙光时,可以通过bound函数限制误差。主要内容包括:成长函数与数据量的关系,好的假设集、大量数据和有效算法的重要性,以及如何通过breakpoint定义VC维。VC维描述了假设集能够区分的最大输入点数,其有限性意味着Ein接近Eout,有助于避免过拟合。
摘要由CSDN通过智能技术生成

只要成长函数露出曙光、资料量够多,就能确保Ein和Eout接近

一线曙光的意义是什么?跟VC维度有关

如果成长函数mH(N)在某个k的地方露出了一线曙光的话,就会被某个上线函数bound,上线函数又会被k-1次方的多项式bound住

当N、k够大的时候,N^k-1次方已经比上限大很多。

所以简单的把成长函数写成N^k-1,

可以把成长函数,带换成上限的上限的上限,mH的上限bound function的上限的上限N^(k-1),这个需要N、k够大。

几个条件让learning可能做得到:

要有好的假设集,它的成长函数要在某个地方露出一线曙光。

要有好的data,够大,确保坏事情发生的机率很低

要有好的演算法,选出一个g,让Ein很小

 在breakpoint之前,最大的点,定义为vc Dimension,是一个假设的性质。

在vc Dimension 之前,可以shatter N输入。资料量小于dvc的话,就存在某个资料会被假设shatter

如果资料大于dvc,每个资料都不能被shatter

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值