基于逻辑回归的信用卡欺诈检测

本文是我学习唐宇迪老师的课程做的整理，仅供自己复习。

（一）导入需要使用的包

import pandas as pd
import matplotlib.pyplot as plt
import numpy as np
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import KFold, cross_val_score  #交叉验证
from sklearn.metrics import confusion_matrix,recall_score,classification_report #混淆矩阵，召回率

%matplotlib inline

（二）读取数据

数据来源：kaggle

data = pd.read_csv("E:\\AAAAAAAAA\\逻辑回归信用卡欺诈检测\\creditcard.csv",engine='python')
data.head()

由于数据涉及隐私，因此每一列的名称没有给出，数据集包含31列，284807个数据，最后一列Class表示类别，0表示正常，1表示欺诈。
（收集数据的方法：

1. 官方网站：kaggle数据集、亚马逊数据集、UCI机器学习数据库、谷歌数据集等
2. 爬虫）

（三）数据预处理

对Amount列进行归一化处理，reshape(-1,1)表示将Amount变成1列，-1表示行数未知；然后去掉‘Time’列和‘Amount’列

from sklearn.preprocessing import StandardScaler

data['normAmount'] = StandardScaler().fit_transform(data['Amount'].reshape(-1, 1))   #列数等于1，行数未知
data = data.drop(['Time','Amount'],axis=1)
data.head()

（四）处理类别不平衡问题

信用卡欺诈毕竟是少数，推断样本可能存在类别不平衡的情况，下面做条状图观察类别的分布情况

count_classes = pd.value_counts(data['Class'], sort = True).sort_index()
count_classes.plot(kind = 'bar')
plt.title("Fraud class histogram")
plt.xlabel("Class")
plt.ylabel("Frequency")

由条状图可以看出，的确存在类别不平衡的情况。类别不平衡的问题通常可以使用欠采样和过采样的方法加以解决。
为什么类别不平衡会影响模型输出?
许多模型的输出类别是基于阈值的，例如逻辑回归中小于0.5的为反例，大于0.5的为正例。在数据类别不平衡时，默认阈值会导致模型输出倾向于类别数据多的类别.
类别不平衡的解决方法：
1）调整阈值，使得模型倾向于类别少的数据；（效果不好）
2）选择合适的评估标准，如ROC曲线或F1值，而不是准确率；
3）欠采样：二分类问题中，假设正例比反例多很多，那么去掉一些正例使得正负比例平衡； （容易出现过拟合问题，泛化能力不强）
4）过采样：二分类问题中，假设正例比反例多很多，那么增加一些负例（重复负例的数据）使得正负比例平衡（容易出现过拟合问题）
对过采样的改进：SMOTE算法（数据生成策略）

欠采样

X = data.ix[:, data.columns != 'Class']  #样本特征集
y = data.ix[:, data.columns == 'Class']  #样本特征标签

# Number of data points in the minority class（欺诈）
number_records_fraud = len(data[data.Class == 1])
fraud_indices = np.array(data[data.Class == 1].index)

# Picking the indices of the normal classes（正常）
normal_indices = data[data.Class == 0].index

# Out of the indices we picked, randomly select "x" number (number_records_fraud) 
random_normal_indices = np.random.choice(normal_indices, number_records_fraud, replace = False) #随机取number_records_fraud个正常数据
random_normal_indices = np.array(random_normal_indices)

# Appending the 2 indices（合并正常数据和欺诈数据）
under_sample_indices = np.concatenate([fraud_indices,random_normal_indices])

# Under sample dataset（欠采样数据集）
under_sample_data = data.iloc[under_sample_indices,:]

X_undersample = under_sample_data.ix[:, under_sample_data.columns != 'Class']  #欠采样数据集
y_undersample = under_sample_data.ix[:, under_sample_data.columns == 'Class']  #欠采样数据标签
# Showing ratio
print("Percentage of normal transactions: ", len(under_sample_data[under_sample_data.Class == 0])/len(under_sample_data))
print(