数据分布不均衡处理——SMOTE算法过采样Over sampling

数据分布不均衡处理——SMOTE算法过采样$Oversampling$

什么是过采样？

过采样就是在原始数据分布不均衡时，使用算法，人工生成一部分数据出来，然后对这些新生成的数据随机采样，使得原始数据中少数集的数量最终和多数集的数量相同。如下图，可以看到类别为0的数据的数量远远多于类别为1的数据的数量。

SMOTE算法的基本思想

• 对于少数类中的每一个样本$X$，以欧氏距离为标准计算它到少数类样本集中所有的样本的距离，得到其$K$近邻

• 根据样本不平衡比例设置一个采样比例以确定采样倍率$N$，对于每一个少数样本$X$，从其$K$近邻中随机选取若干样本，假设选择的近邻为$X_n$

• 对于每一个随机选取的近邻$X_n$，分别与原样本按照如下的公式构建新的样本

  $$\begin{array}{r}{X}_{new}=X+rand(0,1)\times (\tilde{X}-X)\end{array}$$

  实际上就是对每个少数类样本a，从它的最近邻中随机选一个样本b，然后在a、b之间的连线上随机选一点作为新合成的少数类样本。
  

SMOTE算法的实现

请查看我的博文信用卡欺诈检测