集成学习多样性度量总结

本文总结了集成学习中的非成对多样性度量方法,包括Kohavi-Wolpert方差、 Interrater Agreement度量、熵度量、难度度量、广义多样性GD和Percentage Correct Diversity Measure(PCDM)。这些度量用于评估分类器系统的多样性,高多样性有助于提高集成学习的性能。KW方差和熵度量在分类器一致性较低时达到最大,而难度度量和PCDM关注分类器对特定样本的错误分类比例。
摘要由CSDN通过智能技术生成

上一篇博客讲了集成学习中成对的多样性度量,博文链接如下

https://blog.csdn.net/jodie123456/article/details/89341835

在本篇博文中,总结一下非成对的多样性度量的方法。

1.2 非成对多样性度量

与成对的多样性度量不同,非成对的的多样性度量直接定义在多分类器系统上,首先引入如下符号:z_{j}(j=1,2,........,N)为N个样例中的第j个样例,l(z_{j})为对z_{j}正确分类的分类器的数目,L为总的分类器数目。

1)Kohavi-Wolpert方差KW

KW方差来源于对分类器分类误差的分解,在训练集上使用分类器C_{1}C_{2}C_{3},..................,C_{L}x预测类标签的方差表达式,得到KW的方差公式:

                                                                       KW=\frac{1}{NL^{2}}\sum_{j=1}^{N}l(z_{j})(L-l(z_{j}))

对于每一个样例z_{j},KW方差度量均要统计出对其正确分类的和错误分类的的分类器数

评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值