VC维是模型的复杂程度,模型假设空间越大,VC维越高。某种程度上说,VC维给机器学习可学性提供了理论支撑。 1. 测试集合的loss是否和训练集合的loss接近?VC维越小,理论越接近,越不容易overfitting。 2. 训练集合的loss是否足够小?VC维越大,loss理论越小,越不容易underfitting。 我们对模型添加的正则项可以对模型复杂度(VC维)进行控制,平衡这两个部分。
对VC维的理解和认识
最新推荐文章于 2023-04-20 12:27:02 发布
VC维是模型的复杂程度,模型假设空间越大,VC维越高。某种程度上说,VC维给机器学习可学性提供了理论支撑。 1. 测试集合的loss是否和训练集合的loss接近?VC维越小,理论越接近,越不容易overfitting。 2. 训练集合的loss是否足够小?VC维越大,loss理论越小,越不容易underfitting。 我们对模型添加的正则项可以对模型复杂度(VC维)进行控制,平衡这两个部分。