《机器学习》学习笔记chapter1 绪论（占坑）

更多参考：百度搜索《机器学习》周志华 学习笔记 第一章绪论

1.基本术语

2.假设空间&&归纳偏好

这里有个推理流程图

科学推理的两大基本手段:
演绎推理：从公理到具体的“特化”过程
归纳：从具体到一般规律的“泛化”过程

1. 归纳学习
2. 概念学习
3. 布尔概念学习
4. 假设空间
5. 版本空间
6. 归纳偏好
7. NFL定理
8. 算法优劣的判断

3.机器学习发展历程

1. 1950s-70s:智能∝逻辑推理能力

2. 1970s-90s:智能∝逻辑推理能力+知识
   机器学习分类：
   机械学习
   示教学习
   类比学习
   归纳学习

3. 从样例中学习：
   符号主义学习：决策树和基于逻辑的学习（ILP）
   连接主义学习：神经网络（黑箱模型&BP算法）

4. 90s : 统计学习：基于60s-70s的 支持向量、VC维结风险最小化原则的提出
5. 20世纪初：深度学习