机器学习：不均衡样本情况下的抽样

题目

在分类问题中,我们经常会遇到正负样本数据量不等的情况,比如正样本为10w条数据,负样本只有1w条数据,以下最合适的处理方法是( )（多选）

A. 将负样本重复10次,生成10w样本量,打乱顺序参与分类

B. 直接进行分类,可以最大限度利用数据

C. 从10w正样本中随机抽取1w参与分类

D. 将负样本每个权重设置为10,正样本权重为1,参与训练过程

---------------------------------------------------------------------------------

解析

答案：ACD

解决这类问题主要分重采样、欠采样、调整权值

1. 重采样

A可视作重采样的变形。改变数据分布消除不平衡，可能导致过拟合。

2. 欠采样

C的方案提高少数类的分类性能，可能丢失多数类的重要信息。

如果1：10算是均匀的话，可以将多数类分割成为1000份。然后将每一份跟少数类的样本组合进行训练得到分类器。而后将这1000个分类器用assemble的方法组合位一个分类器。

另：如果目标是 预测的分布 跟训练的分布一致，那就加大对分布不一致的惩罚系数。

3. 权值调整

D方案也是其中一种方式。

 

--------------------- 
转自：https://blog.csdn.net/ztf312/article/details/50893967