样本不均衡(2)

不均衡数据集的分类问题是机器学习和模式识别领域的研究热点，是对传统分类的重大挑战

Reference：http://blog.csdn.net/yelbosh/article/details/48375363

1. 重构数据集(重采样/重抽样/重取样)

   过样本：增加少数类的样本来提高少数类的分类性能。

          简单方法：随机复制少数类样本

          改进方法：SMOTE算法; Borderline-SMOTE

   欠样本：减少多数类的样本来提高少数类的分类性能。

          简单方法：随机去掉某些多数类样本来减少多数类的规模。

          改进方法：Condensed Nearest Neighbor Rule; Neighborhood Cleaning Rule; One sided Selection; Tomek Links等【有选择去掉对分类作用不大，远离分类边界或引起数据重叠的多数类样本】

2. 改进分类算法

   代价敏感学习【困难，效果有时不明显】：调整样本分布；元代价方法；代价敏感决策

   支持向量机(SVM)：对正类和负类赋予不同的代价，作为SVM的惩罚因子；对支持向量进行裁剪，通过适当牺牲多数类的分类精度来提高少数类的精度。

   单类学习分类

   组合方法：多个分类器组合成一个分类器。AdaBoost是提升算法的代表，给训练集数据的分布迭代加权。改进的算法还有AdaCost; RareBoost算法。