Degrees of Freedom
d
+
1
d+1
d+1实际上是perceptron的维度。
w
\mathbf{w}
w代表了hypothesis的自由度。
hypothesis的大小
M
=
∣
H
∣
M=|\mathcal{H}|
M=∣H∣模拟了自由度。
d
V
C
=
d
+
1
d_{VC}=d+1
dVC=d+1代表了有效的二元分类的自由度。
Two Old Friends
从上面这两个例子可以看出 d V C d_{VC} dVC大概等于自由的参数的个数,但不总是对的。
M M M and d V C d_{VC} dVC
Fun Time
在
w
0
=
0
w_0=0
w0=0的情况下,
d
V
C
=
d
d_{VC}=d
dVC=d。