假设空间和版本空间

假设空间（hypothesis space） 是指一个机器学习算法可以生成的所有函数的集合。

通俗的来说就是样本的所有可能性的集合。

而版本空间 (version space)是概念学习中与已知数据集一致的所有假设 (hypothesis)的子集集合。

这里给出一个例子：

 例如这个数据集

他的假设空间为

1 色泽＝＊，根蒂＝＊，敲声＝＊

2 色泽＝青绿，根蒂＝＊，敲声＝＊

3 色泽＝乌黑，根蒂＝＊，敲声＝＊

4 色泽＝＊，根蒂＝蜷缩，敲声＝＊

5 色泽＝＊，根蒂＝硬挺，敲声＝＊

6 色泽＝＊，根蒂＝稍蜷，敲声＝＊

7 色泽＝＊，根蒂＝＊，敲声＝浊响

8 色泽＝＊，根蒂＝＊，敲声＝清脆

9 色泽＝＊，根蒂＝＊，敲声＝沉闷

10 色泽＝青绿，根蒂＝蜷缩，敲声＝＊

11 色泽＝青绿，根蒂＝硬挺，敲声＝＊

12 色泽＝青绿，根蒂＝稍蜷，敲声＝＊

13 色泽＝乌黑，根蒂＝蜷缩，敲声＝＊

14 色泽＝乌黑，根蒂＝硬挺，敲声＝＊

15 色泽＝乌黑，根蒂＝稍蜷，敲声＝＊

16 色泽＝青绿，根蒂＝＊，敲声＝浊响

17 色泽＝青绿，根蒂＝＊，敲声＝清脆

18 色泽＝青绿，根蒂＝＊，敲声＝沉闷

19 色泽＝乌黑，根蒂＝＊，敲声＝浊响

20 色泽＝乌黑，根蒂＝＊，敲声＝清脆

21 色泽＝乌黑，根蒂＝＊，敲声＝沉闷

22 色泽＝＊，根蒂＝蜷缩，敲声＝浊响

23 色泽＝＊，根蒂＝蜷缩，敲声＝清脆

24 色泽＝＊，根蒂＝蜷缩，敲声＝沉闷

25 色泽＝＊，根蒂＝硬挺，敲声＝浊响

26 色泽＝＊，根蒂＝硬挺，敲声＝清脆

27 色泽＝＊，根蒂＝硬挺，敲声＝沉闷

28 色泽＝＊，根蒂＝稍蜷，敲声＝浊响

29 色泽＝＊，根蒂＝稍蜷，敲声＝清脆

30 色泽＝＊，根蒂＝稍蜷，敲声＝沉闷

31 色泽＝青绿，根蒂＝蜷缩，敲声＝浊响

32 色泽＝青绿，根蒂＝蜷缩，敲声＝清脆

33 色泽＝青绿，根蒂＝蜷缩，敲声＝沉闷

34 色泽＝青绿，根蒂＝硬挺，敲声＝浊响

35 色泽＝青绿，根蒂＝硬挺，敲声＝清脆

36 色泽＝青绿，根蒂＝硬挺，敲声＝沉闷

37 色泽＝青绿，根蒂＝稍蜷，敲声＝浊响

38 色泽＝青绿，根蒂＝稍蜷，敲声＝清脆

39 色泽＝青绿，根蒂＝稍蜷，敲声＝沉闷

40 色泽＝乌黑，根蒂＝蜷缩，敲声＝浊响

41 色泽＝乌黑，根蒂＝蜷缩，敲声＝清脆

42 色泽＝乌黑，根蒂＝蜷缩，敲声＝沉闷

43 色泽＝乌黑，根蒂＝硬挺，敲声＝浊响

44 色泽＝乌黑，根蒂＝硬挺，敲声＝清脆

45 色泽＝乌黑，根蒂＝硬挺，敲声＝沉闷

46 色泽＝乌黑，根蒂＝稍蜷，敲声＝浊响

47 色泽＝乌黑，根蒂＝稍蜷，敲声＝清脆

48 色泽＝乌黑，根蒂＝稍蜷，敲声＝沉闷

49 Ø

而版本空间为

可能你还不是很懂为什么这个数据集的版本空间仅有三个

以1样例为例

由于1号为好瓜

所以假设空间内的 1，2满足1样例，而3不满足，所以删除3

以此类推：

通过1样例可以删除假设空间中的3、5、6、8、9、11-15、17-21、23-30、32-49

通过2样例可以删除剩余假设空间中的2、10、16、31

而3样例和4样例并非好瓜

所以应删除满足3、4样例条件的假设空间

例如假设空间中的1 色泽＝＊，根蒂＝＊，敲声＝＊满足样例3的条件

所以

通过3样例可以删除假设空间中的1

通过4样例剩余的假设空间没有可删除的项

所以得到最后的版本空间为

习题1.1 表1.1中若只包含编号为1和4的两个样例，试给出相应的版本空间。

通过上面的学习 

版本空间为