leeningzzu的博客

原创 统计理论基础VC dimension

统计问题及目标VC维的概念来自概率近似正确（PAC）学习，PAC讨论的问题：1.所训练模型的好坏，也就是说假设的泛化误差是否在一定的范围内？2.为了得到接近真实的假设，我们需要的训练集大小是多少？3.假设空间的复杂度如何度量，怎样选择假设空间？依据统计学习的目标，最好的模型假设应为训练误差一致收敛到泛化误差，且训练误差足够小。学习理论定理：lim⁡n→∞P[sup⁡ω∣R(ω)−...