Python实现过采样和欠采样

B站账号@狼群里的小杨，记得点赞收藏加关注，一键三连哦！

过采样

1．过采样的原理

过采样的方法有随机过采样和SMOTE法过采样。

（1）随机过采样

随机过采样是从100个违约样本中随机抽取旧样本作为一个新样本，共反复抽取900次，然后和原来的100个旧样本组合成新的1000个违约样本，和1000个不违约样本一起构成新的训练集。因为随机过采样重复地选取了违约样本，所以有可能造成对违约样本的过拟合。

（2）SMOTE法过采样

SMOTE法过采样即合成少数类过采样技术，它是一种针对随机过采样容易导致过拟合问题的改进方案。假设对少数类进行4倍过采样，通过下图来讲解SMOTE法的原理。

使用SMOTE法进行过采样时，传入函数里面的数据必须都是数值类型，且不存在缺失值，即经过缺失值处理，数据转换、标准化或归一化之后的高质量数据才可以使用SMOTE否则就会出现报错

import pandas as pd
from collections import Counter
from imblearn.over_sampling import RandomOverSampler, SMOTE  # 随机采样函数 和SMOTE过采样函数

data = pd.read_csv('数据.csv')
print(data.info())

# 分别获取特征值和标签值
X = data.drop(columns='FLAG')
y = data['FLAG']

# 对标签中的变量进行计数统计
print('原始标签数据统计：', Counter(y))

# 随机过采样方法
ros = RandomOverSampler(random_state=0)  # random_state为0（此数字没有特殊含义，可以换成其他数字）使得每次代码运行的结果保持一致
X_oversampled, y_oversampled = ros.fit_resample(X, y)  # 使用原始数据的特征变量和目标变量生成过采样数据集

print('随机过采样处理后', Counter(y_oversampled))
print(X_oversampled.info()) #随机采样后的特征数据信息


# SMOTE法过采样
smote = SMOTE(random_state=0)  # random_state为0（此数字没有特殊含义，可以换成其他数字）使得每次代码运行的结果保持一致
X_smotesampled, y_smotesampled = smote.fit_resample(X, y)  # 使用原始数据的特征变量和目标变量生成过采样数据集
 print('Smote法过采样后', Counter(y_smotesampled))

欠采样

1．欠采样的原理

欠采样是从1000个不违约样本中随机选取100个样本，和100个违约样本一起构成新的训练集。欠采样抛弃了大部分不违约样本，在搭建模型时有可能产生欠拟合。

import pandas as pd
from collections import Counter
from imblearn.over_sampling import RandomUnderSampler, SMOTE  # 随机欠采样函数

data = pd.read_csv('数据.csv')
print(data.info())

# 分别获取特征值和标签值
X = data.drop(columns='FLAG')
y = data['FLAG']

rus = RandomUnderSampler(random_state=0)# random_state为0（此数字没有特殊含义，可以换成其他数字），使得每次代码运行的结果保持一致
X_undersampled, y_undersampled = rus.fit_resample(X,y) # 使用原始数据的特征变量和目标变量生成欠采样数据集
print(Counter(y_undersampled))
print(X_undersampled.shape)

在实战中处理样本不均衡问题时，如果样本数据量不大，通常使用过采样，因为这样能更好地利用数据，不会像欠采样那样很多数据都没有使用到；如果数据量充足，则过采样和欠采样都可以考虑使用。