五、决策树
5.1、信息增益
5.2、信息增益比
5.3、决策树的生成
5.3.1、ID3算法(信息增益算法)
5.3.2、C4.5算法(信息增益率)
5.3.3、CART算法(GINI算法)
5.4、剪枝
5.4.1、决策树的剪枝
5.4.2、CART剪枝
六、逻辑斯蒂回归与最大熵
6.1、逻辑斯蒂回归模型
解释
计算
6.2、最大熵模型
6.3、改进
6.3.1、迭代尺度法(IIS)
6.3.2、拟牛顿法(BFGS)
原理类似牛顿法
计算过程如下:
七、支持向量机
解释
这里有详细的讲解,点击这里
在这里,复习一下推导式
7.1、线性支持向量机
线性支持向量机
7.2、非线性支持向量机
7.3、核函数
常用核函数