【西瓜书+南瓜书】task01: 第1、2章（2天）【机器学习】

第一章 绪论

1.1 引言

1.2 基本术语

1.3 假设空间

    归纳vs.演绎 
    归纳学习

1.4 归纳偏好

没有免费的午餐NFL 定理：（南瓜-公式1.2）
无论学习算法a多聪明, 算法b多笨，他们的期望性都是相同的。
所以不能脱离具体问题空谈什么学习算法更好都是毫无意义的。

1.5 发展历程（机器学习）

    推理期
        连接主义（1950s）
        符号主义（1960s）

    知识期（1970s）
    机器学习（1980s）：符号主义
    ｜ 机械学习、示教学习+类比学习、归纳学习（监督or无监督）
        决策树
        BP算法

    统计学习（1990s）
        SVM

    深度学习（2000s）：连接主义
        神经网络

1.6 应用现状

第二章 模型评估与选择

2.1 经验误差与过拟合

    过拟合vs.欠拟合

<