VC维的图像解释

VC理论是一个于1960年代到1990年代由弗拉基米尔·万普尼克（Vapnik）及Alexey Chervonenkis建立的一套机器学习理论，使用统计的方法，因此有别于归纳学习等其它机器学习方法。

看了几篇文章，可能由于自己的理解能力有问题，还是没有搞明白什么是VC维，但是当我把文章中的论述画到图上的时候，忽然间豁然开朗。蛋疼的数学描述！

定义

传统的定义是：对一个指标 函数集，如果存在H个样本能够被函数集中的函数按所有可能的2的H次方种形式分开，则称函数集能够把H个样本打散；函数集的VC维就是它能打散的最大样本数目H。若对任意数目的样本都有 函数能将它们打散，则函数集的VC维是无穷大， 有界实函数的VC维可以通过用一定的 阀值将它转化成 指示函数来定义。

VC维反映了 函数集的学习能力，VC维越大则学习机器越复杂（容量越大），遗憾的是，目前尚没有通用的关于任意函数集VC维计算的理论，只对一些特殊的函数集知道其VC维。例如在N 维空间中线形 分类器和线形实函数的VC维是N+1。

图像解释

参考

[1] http://xyxy100.blog.163.com/blog/static/115572596201041754333345/