归纳与演绎
归纳与演绎是科学推理的两大基本手段,前者是从特殊到一般的泛化过程,即从具体的事实归纳出一般性规律。后者则是从一般到特殊的特化过程,即从基础原理推演出具体状况。
例如,大学下课经过文法学院,你发现一个美女,两个美女,三个美女!所以你认为文法学院都是美女,这是从具体到一般的推理,即归纳。
然后第二天,你经过文法学院,已经认可了文法学院都是美女,所以你认为一下课,第一个出来的女生也会是美女,这叫演绎。
(个人的思考,如果有错误请大家批评指正)
假设空间
我们可以把学习过程看作一个在所有假设组成的空间中进行搜索的过程,搜索目标是找到与训练集匹配的假设。
需要注意:假设空间包含了所有的假设,而符合训练集的假设可能也很多。
如下图,从下往上,是从更具体的假设,转到更为一般的假设。所以满足训练集的假设其实可以有多种。
如果西瓜的色泽,根蒂,敲声分别有三种可能取值,假设空间规模大小为什么是4×4×4+1=65呢?
以色泽为例,除了3种可能色泽外,还有随意色泽都可以的第四选项,最后再考虑空集,即不存在好西瓜的假设。
版本空间:
可能有多个假设与训练集一致,即存在着一个与训练集一致的“假设空间”,称为“版本空间”
(用通俗的话讲,所以符合条件,就是符合训练集的假设放到了一起)
书籍参考:《机械学习》 周志华 清华大学出版社 2016年版
视频参考:周志华老师亲讲-西瓜书全网最详尽讲解-1080p高清原版《机器学习初步》 B站