《统计学习方法》

第壹篇 监督学习

第壹章 统计学习及监督学习概论

引言： 监督学习是从标注数据中学习模型的机器学习问题。

1.1 统计学习

“学习”——系统通过执行某进程而改进性能

计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析 （统计机器学习）

建立在计算机及网络上，以数据驱动以方法为中心，对数据进行预测与分析的交叉学科。计算机系统通过运用数据及统计方法提高系统性能的机器学习。

1.2 统计学习的分类

1.2.1 基本分类

1.2.2  按模型分类

1.2.3  按算法分类

1.2.4 按技巧分类

1.3 统计学习方法三要素

1.4 模型评估与模型选择

1.5 正则化与交叉验证

1.6 泛化能力

1.7 生成模型与判别模型

1.8 监督学习应用

第贰章 感知机

第叁章 k近邻法

第肆章 朴素贝叶斯法

第伍章 决策树

第陆章 逻辑斯谛回归与最大熵模型

第柒章 支持向量机

第捌章 提升方法

第玖章 EM算法及其推广

第拾章 隐马尔可夫模型

第拾壹章 条件随机场

第拾贰章  监督学习方法总结

第贰篇 无监督学习

第拾叁章 无监督学习概论

第拾肆章 聚类方法

第拾伍章 奇异值分解

第拾陆章 主成分分析

第拾柒章 潜在语义分析

第拾捌章 概率潜在语义分析

第拾玖章 马尔可夫链蒙特卡罗算法

第贰拾章 潜在狄利克雷分配

第贰拾壹章 PageRank算法

第贰拾贰章 无监督学习方法总结

补充：

附录A   梯度下降法

附录B  牛顿法和拟牛顿法

附录C  拉格朗日对偶性

附录D  矩阵的基本子空间

附录E  KL散度的定义和狄利克雷分布的性质