NTU-Coursera机器学习:VC Bound和VC维度

Break Point 对成长函数的限制

上一讲重点是一些分析机器学习可行性的重要思想和概念，尤其是生长函数(growth function) 和突破点(break point) 的理解(上一节提到的4个成长函数)：

假设对于一个问题，minimum break point k = 2（对于任意2个输入，H不能穷尽所有划分），基于该条件我们做出推论：

即当 N=2 时，成长函数一定 < 2^2=4，所以此时成长函数的 maximum possible value = 3。

当 N=3 时，我们看看成长函数的 maximum possible value 等于多少？

任意3个输入（x1, x2, x3），我们一定能找到以下3个合法的划分：