02《统计学习方法·李航》读书笔记

第1章 统计学习方法概率

1.1 统计学习

1.2 监督学习

1.3 统计学习三要素

1.4 模型评估与模型选择

1.5 正则化与交叉验证

1.6 泛化能力

1.7 生成模型与判别模型

1.8 分类问题

1.9 标志问题

1.10 回归问题

第2章 感知机

2.1 感知机模型

2.2 感知机学习策略

2.3 感知机学习方法

第3章 k近邻法

3.1 k近邻算法

3.2 k近邻模型

3.3 k近邻法的实现：kd树

第4章 朴素贝叶斯法

4.1 朴素贝叶斯法的学习与分类

4.2 朴素贝叶斯法的参数估计

第5章 决策树

5.1 决策树模型与学习

5.2 特征选择

5.3 决策树的生成

5.4 决策树的剪枝

5.5 CART算法

第6章 逻辑斯谛回归与最大熵模型

6.1 逻辑斯谛回归模型

6.2 最大熵模型

6.3 模型学习的最优化算法

第7章 支持向量机

7.1 线性可分支持向量机与硬间隔最大化

7.2 线性支持向量机与软间隔最大化

7.3 非线性支持向量机与核函数

7.4 序列最小最优化算法

第8章 提升方法

8.1 提升方法AdaBoost算法

8.2 AdaBoost算法的训练误差分析

8.3 AdaBoost算法的解释

8.4 提升树

第9章 EM算法及其推广

9.1 EM算法的引入

9.2 EM算法的收敛性

9.3 EM算法在高斯混合模型学习中的应用

9.4 EM算法的推广

第10章 隐马尔科夫模型

10.1 隐马尔科夫模型的基本概念

10.2 概率计算算法

10.3 学习算法

10.4 预测算法

第11章 条件随机场

11.1 概率无向图模型

11.2 条件随机场的定义与形式

11.3 条件随机场的概率计算问题

11.4 条件随机场的学习算法

第12章 统计学习方法总结