对提升方法来说,由两个问题需要回答:一是在每一轮如何改变训练数据的权值或概率分布;二是如何将若分类器组合成一个强分类器。关于第一个问题,adaboost的做法是,提高那些被前一轮弱分类器错误分类样本的权值,而降低那些被正确分类样本的权值。至于第二个问题,即弱分类器的组合,adaboost采取加权多数表决的方法。具体地,加大分类误差率小的弱分类器的权值,使其在表决中起较大的作用,减小分类误差率大的弱分类器的权值,使其在表决中起较小的作用。
提升树算法。。。。
对提升方法来说,由两个问题需要回答:一是在每一轮如何改变训练数据的权值或概率分布;二是如何将若分类器组合成一个强分类器。关于第一个问题,adaboost的做法是,提高那些被前一轮弱分类器错误分类样本的权值,而降低那些被正确分类样本的权值。至于第二个问题,即弱分类器的组合,adaboost采取加权多数表决的方法。具体地,加大分类误差率小的弱分类器的权值,使其在表决中起较大的作用,减小分类误差率大的弱分类器的权值,使其在表决中起较小的作用。
提升树算法。。。。