《统计学习方法》——李航 学习大纲

最近在学习李航写的统计学习方法概论， 每一章都用xmind理清了思路，括号里是书里的公式，第一次写博文，敬请指教~~~~

第一章 统计学习方法论

第二章 感知机

每个方法其实只需要着重掌握三要素和输入输出就可以了，主要看模型、策略和算法。

感知机主要是二类分类的线性分类模型。

看到后面会注意感知机和支持向量机的区别。

第三章 k近邻法

k近邻算是入门级别的机器学习的方法了。我们在上机器学习课的时候，老师也介绍这是基础的方法，主要核心思想是“物以类聚”，看训练集中离该输入最近的实例多数属于什么类别。

KNN主要掌握三要素，k值的选择、距离度量和分类决策规则。

注意在knn算法实现的部分，有提到kd树，平衡kd树和kd数的搜索的算法都比较重要，有利于KNN的实现。

第四章  朴素贝叶斯法

学习朴素贝叶斯法之前，最好看一下贝叶斯定理。

朴素贝叶斯法的精髓在于后验概率最大化，弄清后验概率的含义。

第五章     决策树

决策树主要抓住三个步骤：特征选择、决策树的生成和决策树的修剪。

一般决策树主要用于分类。

CART决策树也叫分类与回归决策树，注意掌握生成时最优切分变量和切分点的算法生成的思想。