VC维
一条大咸咸鱼
热爱科研,无法自拔
展开
-
机器学习系列2---经验风险最小化原则和结构风险最小化原则与VC维问题
机器学习的目的是依据观测数据(分析数据)实现对系统输入和输出之间变量关系函数的估计,并基于此函数模型实现对未知数据或者无法观测数据(含定性)的预测分析。其中变量关系函数的最优化问题是模型性能的决定因素之一,假设数据对服从联合概率分布,模型损失函数为,则函数优化问题等价于期望风险最小化问题: ...原创 2020-04-27 23:09:09 · 3184 阅读 · 0 评论 -
机器学习系列1---VC维问题
VC维是机器学习中用于表示机器学习能力的一个重要指标,其大小表示函数集或学习机的复杂性。在介绍一个模型VC维之前需要简要介绍一下数据“Shater(打散)”概念:Lemma 1: 对于一个函数集S,如果存在 h 个样本,能够被S中的函数以所有可能的形式分为两类,则称该函数集能够把 h 个样本打散。Lemma 2: 一个函数集的VC维是指它能够打散的最大样本数 h ,即能够被集...原创 2020-04-27 21:42:24 · 731 阅读 · 0 评论