西瓜书-1.3假设空间

假设空间

• 演绎（一般到特殊的特化）

• 归纳（特殊到一般的泛化）

  • 归纳学习：从样例中学习。
    • 广义：从样例中学习。
    • 狭义：从训练数据中学得概念，——亦称概念学习、概念形成。
      • 概念学习，最基本：布尔概念学习，即对‘是’、‘不是’这样的可表示为0/1布尔值的目标概念的学习。

• 案例——西瓜

  布尔表达式：

$$好瓜\leftrightarrow (色泽=?)\wedge (根蒂=?)\wedge (敲声=?)<?表示未确定值>$$

​ 一般形式（析合范式）：
$$(A\wedge B)\vee (C\wedge D)$$

• 学习目的：泛化

  即通过对训练集中的瓜的学习以获得对没见过的瓜进行判断的能力。

  ’记住‘训练样本，即所谓的’机器学习‘，或称’死记硬背式学习‘。

• 学习过程

  看作一个在所有假设hypothesis组成的空间中进行搜索的过程，搜索目标是找到与训练集“匹配”（fit）的假设，即能够将训练集中的瓜判断正确的假设。假设的表示一旦确定，假设空间及其规模大小就确定了。

  问题假设空间可以呈树状图，可采用自顶向下、从一般到特殊，或自底向上、从特殊到一般，在搜索过程中不断删除与正例不一致的假设、与反例一致的假设，最终获得与训练集一致（对所有训练样本进行正确判断）的假设，即学得结果。

• 版本空间

  实际中存在巨大假设空间，但学习过程是基于有限样本训练集进行，因此存在一个与训练集一致的“假设集合”，即称之为**“版本空间”**。