机器学习基石 5.2 Effective Number of Lines

1. Where Did $M$ Come From?

2. Where Did Uniform Bound Fail?

当两个$h$非常接近时，其对应的$\mathcal{B}$也应该非常接近。他们之间的关系应该如下图所示：

然而使用union bound时并没有考虑$\mathcal{B}$之间相互覆盖的情况，其得到的上界实际上是$\mathcal{B}$之间完全不覆盖的情况，所以造成了over-estimating。

3. How Many Lines Are There?

对于一个点$x_1$来说只有两种线：

同样地，对于两个点$x_1,x_2$来说只有四种线。

对于三个点来说就不一定是8种了，因为有可能不线性可分。

例如这种情况就只有6种。

四个点：最多有14种。

4. Effective Number of Lines

5. Fun Time

相邻的点画为同一种。