机器学习集成学习算法介绍

参考周志华《机器学习》李航《统计学习方法》 

集成学习自制PPT，第一次学习，错误之处，多多指教。

决策树法确定V=2.5阈值

小知识点：Hoeffding不等式：Hoeffding不等式指的是某个事件的真实概率与在伯努利试验中观察到的频率之间的差异。Hoeffding不等式_故沉的博客-CSDN博客_hoeffding不等式

最小化损失函数与最大似然函数关系（线性回归为例）

最大似然及线性回归（最小化损失函数关系）_dujuancao11的博客-CSDN博客_最小化损失函数

损失函数最小化，则分类错误率也将最小化。

这说明指数损失函数是分类任务原本 0/1损失函数的一致的 (consistent) 替代损失函数。

常见的损失函数(loss function)总结_机器学习算法那些事-CSDN博客 （常见的损失函数(loss function)总结）

归一化标准化正则化区别  归一化、标准化和正则化的关系_拙翔峰的博客-CSDN博客_正则化和归一化的区别