过采样和欠采样是处理非平衡分类问题时的常用手段。
过采样
过采样:针对少样本类生成新的数据样本参与训练,生成新数据或重复采样
欠采样
欠采样:针对多样本的类筛选一部分样本参与训练,只想用少量数据代表大量的原始数据
示例
二元分类为例,如数据集中阳性样本有1000个,阴性样本有10万个。
此时,两者比例严重失衡,需要进行一些处理使得两者的比例尽可能接近。
过采样:对少的阳性样本进行重复选择,如对1000个阳性样本进行有放回的抽样,抽5万次,此时两类的比例比较平衡。
欠采样:对多的阴性样本一类进行少量随机选择,如对10万个阴性样本进行随机选择,抽中2000个,此时两类的比例比较平衡。