本文详细探讨了集成学习中Boosting和Bagging两种策略，解释了如何生成个体学习器，以及如何评估和优化个体学习器集合。通过误差-分歧分解和多样性度量来判断个体学习器集的质量，并提出数据样本、输入属性、输出表示和算法参数扰动的策略以生成更适合集成的个体学习器。最后，讨论了结合多个个体学习器的平均法、投票法和学习法。
1、怎样生成个体学习器
1.1 Boosting
Boosting的工作过程是：
Boosting算法的代表算法AdaBoost详解，可参照https://www.cnblogs.com/pinard/p/6133937.html
1.2 Bagging
Bagging算法的工作过程是：
Bagging的代表算法是随机森林，随机森林是利用决策树作为个体学习器算法，在决策树训练过程中引入和随机属性选择的Bagging算法。
2、如何判断个体学习器集好不好，适不适合集成
2.1 定性：误差-分歧分解
从理论上证明，个体学习器准确性越高，多样性越大，集成性越好
2.2 定量：多样性度量
（1）不合度量
（2）相关系数
最低0.47元/天 解锁文章
扫一扫
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
