信用卡欺诈

最新推荐文章于 2023-02-16 15:39:20 发布
最新推荐文章于 2023-02-16 15:39:20 发布
阅读量180 收藏
点赞数
分类专栏： sklearn动手实践 文章标签： python 机器学习 逻辑回归 sklearn
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_45055763/article/details/125193704
版权 
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns

df=pd.read_csv('creditcard.csv')
df.head()
TimeV1V2V3V4V5V6V7V8V9...V21V22V23V24V25V26V27V28AmountClass
00.0-1.359807-0.0727812.5363471.378155-0.3383210.4623880.2395990.0986980.363787...-0.0183070.277838-0.1104740.0669280.128539-0.1891150.133558-0.021053149.620
10.01.1918570.2661510.1664800.4481540.060018-0.082361-0.0788030.085102-0.255425...-0.225775-0.6386720.101288-0.3398460.1671700.125895-0.0089830.0147242.690
21.0-1.358354-1.3401631.7732090.379780-0.5031981.8004990.7914610.247676-1.514654...0.2479980.7716790.909412-0.689281-0.327642-0.139097-0.055353-0.059752378.660
31.0-0.966272-0.1852261.792993-0.863291-0.0103091.2472030.2376090.377436-1.387024...-0.1083000.005274-0.190321-1.1755750.647376-0.2219290.0627230.061458123.500
42.0-1.1582330.8777371.5487180.403034-0.4071930.0959210.592941-0.2705330.817739...-0.0094310.798278-0.1374580.141267-0.2060100.5022920.2194220.21515369.990

5 rows × 31 columns

df.shape

(284807, 31)

time列无用，删除

V1-V28是特征

Amount交易金额，大小差异大，预处理

df=df.drop(labels='Time',axis=1)

df.head()
V1V2V3V4V5V6V7V8V9V10...V21V22V23V24V25V26V27V28AmountClass
0-1.359807-0.0727812.5363471.378155-0.3383210.4623880.2395990.0986980.3637870.090794...-0.0183070.277838-0.1104740.0669280.128539-0.1891150.133558-0.021053149.620
11.1918570.2661510.1664800.4481540.060018-0.082361-0.0788030.085102-0.255425-0.166974...-0.225775-0.6386720.101288-0.3398460.1671700.125895-0.0089830.0147242.690
2-1.358354-1.3401631.7732090.379780-0.5031981.8004990.7914610.247676-1.5146540.207643...0.2479980.7716790.909412-0.689281-0.327642-0.139097-0.055353-0.059752378.660
3-0.966272-0.1852261.792993-0.863291-0.0103091.2472030.2376090.377436-1.387024-0.054952...-0.1083000.005274-0.190321-1.1755750.647376-0.2219290.0627230.061458123.500
4-1.1582330.8777371.5487180.403034-0.4071930.0959210.592941-0.2705330.8177390.753074...-0.0094310.798278-0.1374580.141267-0.2060100.5022920.2194220.21515369.990

5 rows × 30 columns

预处理
df['Amount']

0         149.62
1           2.69
2         378.66
3         123.50
4          69.99
           ...  
284802      0.77
284803     24.79
284804     67.88
284805     10.00
284806    217.00
Name: Amount, Length: 284807, dtype: float64

from sklearn.preprocessing import StandardScaler

sc=StandardScaler()

df['Amount']=sc.fit_transform(df['Amount'].values.reshape(-1,1))

df.head()
V1V2V3V4V5V6V7V8V9V10...V21V22V23V24V25V26V27V28AmountClass
0-1.359807-0.0727812.5363471.378155-0.3383210.4623880.2395990.0986980.3637870.090794...-0.0183070.277838-0.1104740.0669280.128539-0.1891150.133558-0.0210530.2449640
11.1918570.2661510.1664800.4481540.060018-0.082361-0.0788030.085102-0.255425-0.166974...-0.225775-0.6386720.101288-0.3398460.1671700.125895-0.0089830.014724-0.3424750
2-1.358354-1.3401631.7732090.379780-0.5031981.8004990.7914610.247676-1.5146540.207643...0.2479980.7716790.909412-0.689281-0.327642-0.139097-0.055353-0.0597521.1606860
3-0.966272-0.1852261.792993-0.863291-0.0103091.2472030.2376090.377436-1.387024-0.054952...-0.1083000.005274-0.190321-1.1755750.647376-0.2219290.0627230.0614580.1405340
4-1.1582330.8777371.5487180.403034-0.4071930.0959210.592941-0.2705330.8177390.753074...-0.0094310.798278-0.1374580.141267-0.2060100.5022920.2194220.215153-0.0734030

5 rows × 30 columns

可视化
class_numbers=pd.value_counts(df['Class'],sort=True).sort_index()

class_numbers.plot.bar()
plt.xlabel('class')
plt.ylabel('numbers')
plt.show()

在这里插入图片描述

可以看出异常样本少，样本不均衡

解决方法：

  • 过采样
  • 下采样
下采样

最多的数据和最少的数据一样少

X=df.loc[:,df.columns != 'Class']
y=df.loc[:,df.columns=='Class']

X.shape

(284807, 29)

y.shape

(284807, 1)

#最少的数目
number_min=len(df[df['Class']==1])

number_min

492

index_min=np.array(df[df['Class']==1].index)

#最多样本的index拿出来
index_max=np.array(df[df['Class']==0].index)

#从最多的样本中选择和最少数目一样多的样本
index_max_random=np.random.choice(index_max,size=number_min,replace=True)

#合并,numpy中一维数组列向量
under_sample_indices=np.concatenate([index_min,index_max_random])

under_sample_indices.shape

(984,)

under_sample_data=df.iloc[under_sample_indices,:]

under_sample_data.shape

(984, 30)

X_under_sample=under_sample_data.loc[:,under_sample_data.columns != 'Class']
y_under_sample=under_sample_data.loc[:,under_sample_data.columns == 'Class']

X_under_sample.shape,y_under_sample.shape

((984, 29), (984, 1))

#展示比例
print('正常交易比例：',len(under_sample_data[under_sample_data.Class==0])/len(under_sample_data.Class))
print('欺诈交易比例：',len(under_sample_data[under_sample_data.Class==1])/len(under_sample_data.Class))
print('总的交易数目：',len(under_sample_data))

正常交易比例： 0.5
欺诈交易比例： 0.5
总的交易数目： 984
划分数据集
from sklearn.model_selection import train_test_split

#在数据不平衡背景下，划分训练集和验证集
X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.3)

print("number transaction train dataset:",len(X_train))
print("number transaction test dataset:",len(X_test))
print("total number of transactions:",len(X_train)+len(X_test))

number transaction train dataset: 199364
number transaction test dataset: 85443
total number of transactions: 284807

#使用下采样数据,划分训练集和验证集
X_train_und_sam,X_test_und_sam,y_train_und_sam,y_test_und_sam=train_test_split(X_under_sample,
                                                                              y_under_sample,
                                                                              test_size=0.3)
print("number transaction train dataset:",len(X_train_und_sam))
print("number transaction test dataset:",len(X_test_und_sam))
print("total number of transactions:",len(X_train_und_sam)+len(X_test_und_sam))

number transaction train dataset: 688
number transaction test dataset: 296
total number of transactions: 984
交叉验证
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import StratifiedKFold
from sklearn.metrics import confusion_matrix,recall_score,classification_report

#计算不同惩罚项的参数下的recall
def print_Kfold_scores(X_data,y_data):#输入训练集的数据
    
    
    #设置不同C
    c_params=[0.01,0.1,1,10,100]
    
    for c in c_params:
        print('-------------------------------------------')
        print('C parameter: ', c)
        print('-------------------------------------------')
        print('')
        
        recall_scores=[]
        recall_scores_mean=[]
    
        for k ,(train,test) in enumerate(StratifiedKFold(n_splits=10).split(X_data,y_data)):#train，test表示原始training data的子集
            lr=LogisticRegression(C=c,penalty='l1',solver='liblinear')
            
            #使用训练集的拆分出来的训练集拟合模型
            lr.fit(X_data.iloc[train,:].values,y_data.iloc[train,:].values.ravel())
            
            #使用训练集的拆分出来的测试集预测
            y_under_sample_pred=lr.predict(X_data.iloc[test,:].values)
            
            #计算recal得分
            score=recall_score(y_data.iloc[test,:].values,y_under_sample_pred)
            recall_scores.append(score)
            print('第%d折'%k,":recall_score=%.3f"%score)
        
        #计算平均recall_score
        print('')
        print("mean recall score:%.3f"%np.mean(recall_scores))  
        print('')

        #储存平均recall_score
        recall_scores_mean.append(np.mean(recall_scores))
    
        
    #计算best C
    best_c=max(recall_scores_mean)
    print('*********************************************************************************')
    print('Best model to choose from cross validation is with C parameter =%.3f '%best_c)
    print('*********************************************************************************')
    
    
    return best_c

        
    


best_c=print_Kfold_scores(X_train_und_sam,y_train_und_sam)

-------------------------------------------
C parameter:  0.01
-------------------------------------------

第0折 :recall_score=1.000
第1折 :recall_score=0.941
第2折 :recall_score=0.941
第3折 :recall_score=1.000
第4折 :recall_score=0.941
第5折 :recall_score=0.971
第6折 :recall_score=0.882
第7折 :recall_score=1.000
第8折 :recall_score=0.941
第9折 :recall_score=0.909

mean recall score:0.953

-------------------------------------------
C parameter:  0.1
-------------------------------------------

第0折 :recall_score=0.971
第1折 :recall_score=0.912
第2折 :recall_score=0.882
第3折 :recall_score=1.000
第4折 :recall_score=0.941
第5折 :recall_score=0.882
第6折 :recall_score=0.882
第7折 :recall_score=0.882
第8折 :recall_score=0.882
第9折 :recall_score=0.879

mean recall score:0.911

-------------------------------------------
C parameter:  1
-------------------------------------------

第0折 :recall_score=0.971
第1折 :recall_score=0.912
第2折 :recall_score=0.882
第3折 :recall_score=1.000
第4折 :recall_score=0.941
第5折 :recall_score=0.882
第6折 :recall_score=0.882
第7折 :recall_score=0.912
第8折 :recall_score=0.882
第9折 :recall_score=0.879

mean recall score:0.914

-------------------------------------------
C parameter:  10
-------------------------------------------

第0折 :recall_score=0.971
第1折 :recall_score=0.912
第2折 :recall_score=0.912
第3折 :recall_score=1.000
第4折 :recall_score=0.941
第5折 :recall_score=0.882
第6折 :recall_score=0.882
第7折 :recall_score=0.912
第8折 :recall_score=0.912
第9折 :recall_score=0.879

mean recall score:0.920

-------------------------------------------
C parameter:  100
-------------------------------------------

第0折 :recall_score=0.971
第1折 :recall_score=0.912
第2折 :recall_score=0.912
第3折 :recall_score=1.000
第4折 :recall_score=0.941
第5折 :recall_score=0.882
第6折 :recall_score=0.882
第7折 :recall_score=0.912
第8折 :recall_score=0.941
第9折 :recall_score=0.879

mean recall score:0.923

*********************************************************************************
Best model to choose from cross validation is with C parameter =0.923 
*********************************************************************************

错误记录：

百思不得其解的错误：内层只执行了一次，c=0.1以后不执行。

解决方法网址：https://www.jianshu.com/p/6d6f7ffa1977

stackoverflow上的解决办法:https://stackoverflow.com/questions/11569535/python-nested-loop-with-generators-does-not-work-in-some-cases

best_c = print_Kfold_scores(X_train,y_train)#使用不平衡样本的训练集

-------------------------------------------
C parameter:  0.01
-------------------------------------------

第0折 :recall_score=0.429
第1折 :recall_score=0.543
第2折 :recall_score=0.400
第3折 :recall_score=0.571
第4折 :recall_score=0.559
第5折 :recall_score=0.676
第6折 :recall_score=0.559
第7折 :recall_score=0.647
第8折 :recall_score=0.500
第9折 :recall_score=0.657

mean recall score:0.554

-------------------------------------------
C parameter:  0.1
-------------------------------------------

第0折 :recall_score=0.400
第1折 :recall_score=0.543
第2折 :recall_score=0.486
第3折 :recall_score=0.600
第4折 :recall_score=0.588
第5折 :recall_score=0.706
第6折 :recall_score=0.618
第7折 :recall_score=0.647
第8折 :recall_score=0.588
第9折 :recall_score=0.743

mean recall score:0.592

-------------------------------------------
C parameter:  1
-------------------------------------------

第0折 :recall_score=0.486
第1折 :recall_score=0.571
第2折 :recall_score=0.486
第3折 :recall_score=0.657
第4折 :recall_score=0.588
第5折 :recall_score=0.706
第6折 :recall_score=0.676
第7折 :recall_score=0.706
第8折 :recall_score=0.559
第9折 :recall_score=0.743

mean recall score:0.618

-------------------------------------------
C parameter:  10
-------------------------------------------

第0折 :recall_score=0.486
第1折 :recall_score=0.571
第2折 :recall_score=0.486
第3折 :recall_score=0.657
第4折 :recall_score=0.588
第5折 :recall_score=0.706
第6折 :recall_score=0.647
第7折 :recall_score=0.706
第8折 :recall_score=0.559
第9折 :recall_score=0.743

mean recall score:0.615

-------------------------------------------
C parameter:  100
-------------------------------------------

第0折 :recall_score=0.486
第1折 :recall_score=0.571
第2折 :recall_score=0.486
第3折 :recall_score=0.657
第4折 :recall_score=0.588
第5折 :recall_score=0.706
第6折 :recall_score=0.647
第7折 :recall_score=0.706
第8折 :recall_score=0.559
第9折 :recall_score=0.743

mean recall score:0.615

*********************************************************************************
Best model to choose from cross validation is with C parameter =0.615 
*********************************************************************************
混淆矩阵
def plot_confusion_matrix(cm,classes,
                         title='Confusion matrix',
                         cmap='Blues'):
    """此函数用于绘制混淆矩阵
    
    cm:混淆矩阵
    
    classes:类名称，如1，0
    
    cmap：颜色板
    
    title：标题
    
    """

    plt.imshow(cm,interpolation='nearest',cmap=cmap)
    plt.title(title)
    
    plt.colorbar()
    tick_marks=np.arange(len(classes))
    plt.xticks(tick_marks,classes,rotation=0)
    plt.yticks(tick_marks,classes)
    
    thresh=cm.max()/2.0
    
    for i,j in itertools.product(range(cm.shape[0]),range(cm.shape[1])):
        plt.text(j,i,
                cm[i,j],
                horizontalalignment="center",
                color='white'if cm[i,j]>thresh else "black")
    plt.tight_layout()
    plt.ylabel('True label')
    plt.xlabel('Predicted label')

热力图是一种数据的图形化表示，具体而言，就是将二维数组中的元素用颜色表示。热力图之所以非常有用，是因为它能够从整体视角上展示数据，更确切的说是数值型数据。

使用imshow()函数可以非常容易地制作热力图。

import itertools
lr=LogisticRegression(C=best_c,penalty='l1',solver='liblinear')
lr.fit(X_train_und_sam.values,y_train_und_sam.values.ravel())
y_pred_under_sample=lr.predict(X_test_und_sam.values)

#计算混淆矩阵
conf_matrix=confusion_matrix(y_test_und_sam,y_pred_under_sample)
np.set_printoptions(precision=2)
conf_matrix

array([[138,   5],
       [ 18, 135]], dtype=int64)


print("Recall metric in the testing dataset:%.3f"%(conf_matrix[1,1]/(conf_matrix[1,0]+conf_matrix[1,1])))

Recall metric in the testing dataset:0.882

#绘出混淆矩阵
class_names=[0,1]
plot_confusion_matrix(conf_matrix,
                     classes=class_names,
                     title='Consusion Matrix')
plt.show()

在这里插入图片描述

#使用平衡样本训练，不平衡样本预测
lr2=LogisticRegression(C=best_c,penalty='l1',solver='liblinear')
lr2.fit(X_train_und_sam.values,y_train_und_sam.values.ravel())
y_pred=lr2.predict(X_test.values)

conf_matrix2=confusion_matrix(y_test,y_pred)


print("Recall metric in the testing dataset:%.3f"%(conf_matrix2[1,1]/(conf_matrix2[1,0]+conf_matrix2[1,1])))

class_names=[0,1]
plot_confusion_matrix(conf_matrix2,
                     classes=class_names,
                     title='Consusion Matrix',
                     cmap='OrRd')
plt.show()

Recall metric in the testing dataset:0.939

在这里插入图片描述

#使用不平衡样本训练，不平衡样本预测
lr3=LogisticRegression(C=best_c,penalty='l1',solver='liblinear')
lr3.fit(X_train.values,y_train.values.ravel())
y_pred_3=lr3.predict(X_test.values)

conf_matrix3=confusion_matrix(y_test,y_pred_3)


print("Recall metric in the testing dataset:%.3f"%(conf_matrix3[1,1]/(conf_matrix3[1,0]+conf_matrix3[1,1])))

class_names=[0,1]
plot_confusion_matrix(conf_matrix3,
                     classes=class_names,
                     title='Consusion Matrix',
                     cmap='YlGn')
plt.show()

Recall metric in the testing dataset:0.626

在这里插入图片描述

逻辑回归阈值对结果影响
lr4=LogisticRegression(C=0.01,penalty='l1',solver='liblinear')
lr4.fit(X_train_und_sam.values,y_train_und_sam.values.ravel())
y_pred4_proba=lr4.predict_proba(X_test_und_sam.values)#获得每个样本属于每类的概率

thresholds = [0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9]



plt.figure(figsize=(10,10))
j=1
for i in thresholds:
    y_test_predictions_high_recall =y_pred4_proba[:,1]>i
    plt.subplot(3,3,j)
    j += 1
    
    #计算混淆矩阵
    conf_matrix4=confusion_matrix(y_test_und_sam,y_test_predictions_high_recall)
    
    print("Recall metric in the testing dataset:%.3f"%(conf_matrix4[1,1]/(conf_matrix4[1,0]+conf_matrix4[1,1])))
    
    #绘出混淆矩阵的图
    class_names=[0,1]
    plot_confusion_matrix(conf_matrix4,
                         classes=class_names,
                         title='Threshold >=%.2f'%i)

Recall metric in the testing dataset:1.000
Recall metric in the testing dataset:0.993
Recall metric in the testing dataset:0.993
Recall metric in the testing dataset:0.961
Recall metric in the testing dataset:0.895
Recall metric in the testing dataset:0.863
Recall metric in the testing dataset:0.850
Recall metric in the testing dataset:0.804
Recall metric in the testing dataset:0.614

在这里插入图片描述

SMOTE采样
from imblearn.over_sampling import SMOTE
from sklearn.ensemble import RandomForestClassifier

credit_cards=pd.read_csv('creditcard.csv')
credit_cards.head()
TimeV1V2V3V4V5V6V7V8V9...V21V22V23V24V25V26V27V28AmountClass
00.0-1.359807-0.0727812.5363471.378155-0.3383210.4623880.2395990.0986980.363787...-0.0183070.277838-0.1104740.0669280.128539-0.1891150.133558-0.021053149.620
10.01.1918570.2661510.1664800.4481540.060018-0.082361-0.0788030.085102-0.255425...-0.225775-0.6386720.101288-0.3398460.1671700.125895-0.0089830.0147242.690
21.0-1.358354-1.3401631.7732090.379780-0.5031981.8004990.7914610.247676-1.514654...0.2479980.7716790.909412-0.689281-0.327642-0.139097-0.055353-0.059752378.660
31.0-0.966272-0.1852261.792993-0.863291-0.0103091.2472030.2376090.377436-1.387024...-0.1083000.005274-0.190321-1.1755750.647376-0.2219290.0627230.061458123.500
42.0-1.1582330.8777371.5487180.403034-0.4071930.0959210.592941-0.2705330.817739...-0.0094310.798278-0.1374580.141267-0.2060100.5022920.2194220.21515369.990

5 rows × 31 columns

columns=credit_cards.columns
columns

Index(['Time', 'V1', 'V2', 'V3', 'V4', 'V5', 'V6', 'V7', 'V8', 'V9', 'V10',
       'V11', 'V12', 'V13', 'V14', 'V15', 'V16', 'V17', 'V18', 'V19', 'V20',
       'V21', 'V22', 'V23', 'V24', 'V25', 'V26', 'V27', 'V28', 'Amount',
       'Class'],
      dtype='object')

features_columns=columns.delete((len(columns)-1))
features_columns

Index(['Time', 'V1', 'V2', 'V3', 'V4', 'V5', 'V6', 'V7', 'V8', 'V9', 'V10',
       'V11', 'V12', 'V13', 'V14', 'V15', 'V16', 'V17', 'V18', 'V19', 'V20',
       'V21', 'V22', 'V23', 'V24', 'V25', 'V26', 'V27', 'V28', 'Amount'],
      dtype='object')

features=credit_cards[features_columns]
features.head()
TimeV1V2V3V4V5V6V7V8V9...V20V21V22V23V24V25V26V27V28Amount
00.0-1.359807-0.0727812.5363471.378155-0.3383210.4623880.2395990.0986980.363787...0.251412-0.0183070.277838-0.1104740.0669280.128539-0.1891150.133558-0.021053149.62
10.01.1918570.2661510.1664800.4481540.060018-0.082361-0.0788030.085102-0.255425...-0.069083-0.225775-0.6386720.101288-0.3398460.1671700.125895-0.0089830.0147242.69
21.0-1.358354-1.3401631.7732090.379780-0.5031981.8004990.7914610.247676-1.514654...0.5249800.2479980.7716790.909412-0.689281-0.327642-0.139097-0.055353-0.059752378.66
31.0-0.966272-0.1852261.792993-0.863291-0.0103091.2472030.2376090.377436-1.387024...-0.208038-0.1083000.005274-0.190321-1.1755750.647376-0.2219290.0627230.061458123.50
42.0-1.1582330.8777371.5487180.403034-0.4071930.0959210.592941-0.2705330.817739...0.408542-0.0094310.798278-0.1374580.141267-0.2060100.5022920.2194220.21515369.99

5 rows × 30 columns

labels=credit_cards['Class']

X_train_1,X_test_1,y_train_1,y_test_1=train_test_split(features,
                                                      labels,
                                                      test_size=0.2)

oversampler=SMOTE()
X_train_1_os,y_train_1_os=oversampler.fit_resample(X_train_1,y_train_1)

len(y_train_1_os[y_train_1_os==1])

227449

print(type(X_train_1_os))

<class 'pandas.core.frame.DataFrame'>

print(type(y_train_1_os))

<class 'pandas.core.series.Series'>

#计算不同惩罚项的参数下的recall
def printing_Kfold_scores(X_data,y_data):#输入训练集的数据
    
    
    #设置不同C
    c_params=[0.01,0.1,1,10,100]
    
    for c in c_params:
        print('-------------------------------------------')
        print('C parameter: ', c)
        print('-------------------------------------------')
        print('')
        
        recall_scores=[]
        recall_scores_mean=[]
    
        for k ,(train,test) in enumerate(StratifiedKFold(n_splits=10).split(X_data,y_data)):#train，test表示原始training data的子集
            lr=LogisticRegression(C=c,penalty='l1',solver='liblinear')
            
            #使用训练集的拆分出来的训练集拟合模型
            lr.fit(X_data.iloc[train,:].values,y_data.iloc[train,:].values.ravel())
            
            #使用训练集的拆分出来的测试集预测
            y_under_sample_pred=lr.predict(X_data.iloc[test,:].values)
            
            #计算recal得分
            score=recall_score(y_data.iloc[test,:].values,y_under_sample_pred)
            recall_scores.append(score)
            print('第%d折'%k,":recall_score=%.3f"%score)
        
        #计算平均recall_score
        print('')
        print("mean recall score:%.3f"%np.mean(recall_scores))  
        print('')

        #储存平均recall_score
        recall_scores_mean.append(np.mean(recall_scores))
    
        
    #计算best C
    best_c=max(recall_scores_mean)
    print('*********************************************************************************')
    print('Best model to choose from cross validation is with C parameter =%.3f '%best_c)
    print('*********************************************************************************')
    
    
    return best_c

        
    

y_train_1_os = pd.DataFrame(y_train_1_os)#由series变成dataframe
best_c = printing_Kfold_scores(X_train_1_os,y_train_1_os)

-------------------------------------------
C parameter:  0.01
-------------------------------------------

第0折 :recall_score=0.964
第1折 :recall_score=0.966
第2折 :recall_score=0.968
第3折 :recall_score=0.969
第4折 :recall_score=0.965
第5折 :recall_score=0.965
第6折 :recall_score=0.968
第7折 :recall_score=0.966
第8折 :recall_score=0.966
第9折 :recall_score=0.967

mean recall score:0.966

-------------------------------------------
C parameter:  0.1
-------------------------------------------

第0折 :recall_score=0.965
第1折 :recall_score=0.967
第2折 :recall_score=0.969
第3折 :recall_score=0.970
第4折 :recall_score=0.967
第5折 :recall_score=0.966
第6折 :recall_score=0.970
第7折 :recall_score=0.967
第8折 :recall_score=0.968
第9折 :recall_score=0.969

mean recall score:0.968

-------------------------------------------
C parameter:  1
-------------------------------------------

第0折 :recall_score=0.965
第1折 :recall_score=0.966
第2折 :recall_score=0.969
第3折 :recall_score=0.970
第4折 :recall_score=0.966
第5折 :recall_score=0.967
第6折 :recall_score=0.969
第7折 :recall_score=0.967
第8折 :recall_score=0.968
第9折 :recall_score=0.969

mean recall score:0.968

-------------------------------------------
C parameter:  10
-------------------------------------------

第0折 :recall_score=0.965
第1折 :recall_score=0.967
第2折 :recall_score=0.969
第3折 :recall_score=0.970
第4折 :recall_score=0.967
第5折 :recall_score=0.966
第6折 :recall_score=0.970
第7折 :recall_score=0.967
第8折 :recall_score=0.968
第9折 :recall_score=0.969

mean recall score:0.968

-------------------------------------------
C parameter:  100
-------------------------------------------

第0折 :recall_score=0.965
第1折 :recall_score=0.967
第2折 :recall_score=0.969
第3折 :recall_score=0.970
第4折 :recall_score=0.967
第5折 :recall_score=0.966
第6折 :recall_score=0.970
第7折 :recall_score=0.967
第8折 :recall_score=0.968
第9折 :recall_score=0.969

mean recall score:0.968

*********************************************************************************
Best model to choose from cross validation is with C parameter =0.968 
*********************************************************************************

#使用SMOTE得到平衡样本训练
lr5=LogisticRegression(C=best_c,penalty='l1',solver='liblinear')
lr5.fit(X_train_1_os.values,y_train_1_os.values.ravel())
y_pred_5=lr5.predict(X_test_1.values)

conf_matrix5=confusion_matrix(y_test_1,y_pred_5)


print("Recall metric in the testing dataset:%.3f"%(conf_matrix5[1,1]/(conf_matrix5[1,0]+conf_matrix5[1,1])))

class_names=[0,1]
plot_confusion_matrix(conf_matrix5,
                     classes=class_names,
                     title='Consusion Matrix')
plt.show()

Recall metric in the testing dataset:0.895

在这里插入图片描述
热爱学习的小鲁同学
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习实战：信用卡欺诈检测
一缕阳光的博客
12-22 349
信用卡欺诈检测
基于逻辑回归模型的信用卡欺诈检测
littleadams & data
07-25 3695
基于逻辑回归模型的信用卡欺诈检测 1. 项目概况 某银行为提升信用卡反欺诈检测能力，提供了脱敏后的一份个人交易记录。考虑数据本身的隐私性，数据提供之初已经进行了类似PCA的处理，并得到了若干数据特征。在不需要做额外特征提取工作的情况下，本项目意在通过逻辑回归模型的调优，得到较为准确可靠的反欺诈检测方法，分析过程中使用到了Python Pandas, Numpy, Matplotlib, S...
06- 信用卡反欺诈 (机器学习集成算法) (项目六)
March_A的博客
02-16 927
本项目通过利用信用卡的历史交易数据，进行机器学习，构建信用卡反欺诈预测模型，提前发现客户信用卡被盗刷的事件。1.2、建模思路根据历史记录数据学习并对信用卡持卡人是否会发生被盗刷进行预测，二分类监督学习场景，选择逻辑斯蒂回归（Logistic Regression）算法。数据为结构化数据，不需要做特征抽象，但需要做特征缩放。
【机器学习】信用卡欺诈检测 （下采样、SMOTE过采样、集成学习、Pytorch）
myaijarvis notebook
03-31 5256
【参考：机器学习项目实战之信用卡欺诈检测（零基础，附数据及详细python代码）_西南交大-Liu_z的博客-CSDN博客】 【参考：实战六：kaggle实战之信用卡欺诈检测_超级圈的博客-CSDN博客】 代码：https://gitee.com/myaijarvis/ai/blob/master/机器学习/Kaggle/信用卡欺诈检测.ipynb 分析目的 【参考：kaggle信用卡欺诈识别项目 - 知乎】 【参考：信用卡欺诈检测 | Kaggle】 利用大量数据，通过逻辑回归的算法，检验模型的效果，即模
SKLearn 信用卡欺诈检测(creditcard)
zhuge19870104的博客
04-08 1940
creditcard.csv文件可以在CSDN下载， https://download.csdn.net/download/bbqqlover/10179806 两个common func的代码， _common_func.py ``` ''' Created on 2020年4月8日 @author: Lenovo ''' import numpy as np import pand...
信用卡欺诈检测
02-09
使用Azure机器学习进行信用卡欺诈检测 金融交易中的欺诈检测是金融公司中最重要的问题之一。 该项目旨在检测信用卡交易的潜在欺诈案件，此处的任务是区分它们。 我的最终目的是通过建立分类模型来分类和区分欺诈交易...
SVM_信用卡欺诈
12-21
信用卡欺诈问题概述实现过程SVM介绍数据源下载代码实现代码解释总结 概述 初衷是因为引用卡欺诈问题相对与其他机器学习问题略有不同，因为二分类数据量差距过大，导致以往的评价方法对其不适用，如下图的284807 笔...
德国信用卡欺诈数据.zip
12-03
信用卡欺诈数据，kaggle网站下载的原始数据，可以放心使用，建议稠密数据直接进行归一化处理，稀疏数据先进性embedding处理，之后再进行合并，整体进行pca降维，最后放入算发中使用，正确率挺高的
信用卡欺诈类型PPT
10-23
从信用卡欺诈的种类到识别方法，较为全面的列举了信用卡欺诈的种种行为特征。
基于逻辑回归的信用卡欺诈检测.pdf
07-18
详细介绍了基于逻辑回归的信用卡欺诈检测 包括代码共30页
信用卡交易数据异常检测
weixin_44458771的博客
08-02 3465
creditcard.csv信用卡交易数据异常检测
【实战案例】Python 信用卡欺诈检测其实特简单
机器学习社区
12-03 1404
当我们在网上购买产品时，很多人喜欢使用信用卡。但信用卡欺诈常常会在身边发生，网络安全正成为我们生活中至关重要的一部分。为了解决这个问题，我们需要利用机器学习算法构建一个异常行为的识别系统，如果发现可疑，中止操作。在本文中，我将分享一个端到端模型训练方法，从数据获取到最后模型筛选，喜欢的小伙伴欢迎收藏、点赞支持。本文由技术群粉丝分享，项目源码、数据、技术交流提升，均可加交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友本文使用的为 kaggle 数据：，该数据集为
信用卡欺诈检测模型
我们的征途是星辰大海
10-28 2712
拿到的数据是持卡人两天内的信用卡交易数据,要解决的问题是预测持卡人是否会发生信用卡被盗刷.其结果只有两种可能,被盗刷或者不被盗刷,这份数据是有目标列的,也就是说这是一个监督学习的场景,并且是一个二元分类问题,所以本项目可以选用逻辑斯蒂回归（Logistic Regression)。
机器学习实战分享：用 Python 进行信用卡欺诈检测
Python学习与数据挖掘
03-21 9866
本文旨在使用 XGBoost、随机森林、KNN、逻辑回归、SVM 和决策树解决分类问题，内容较长，建议收藏、关注、点赞。 案例简介 假设你受雇于帮助一家信用卡公司检测潜在的欺诈案件，你的工作是确保客户不会因未购买的商品而被收取费用。给你一个包含人与人之间交易的数据集，他们是欺诈与否的信息，并要求你区分它们。我们的最终目的是通过构建分类模型来对欺诈交易进行分类区分来解决上述情况。 推荐文章 李宏毅《机器学习》国语课程(2022)来了 有人把吴恩达老师的机器学习和深度学习做成了中文版 上瘾了，最近又
拍拍贷风控违约预测
weixin_45004761的博客
03-16 1131
拍拍贷风控违约预测项目 背景介绍 国内网络借贷行业的贷款风险数据 1.包括信用违约标签（因变量） 2.建模所需的基础与加⼯字段（自变量） 3.相关用户的网络行为原始数据 本着保护借款⼈隐私以及拍拍贷知识产权的目的，数据字段已经过脱敏处理。 数据信息 Master(每一行代表一个成功成交借款样本，每个样本包含200多个各类字段。 1.idx：每笔贷款的unique key，可与另外2个文件里的idx相匹配。 2.UserInfo_*：借款人特征字段 3.WeblogInfo_*：Info网络行为字段
风控模型大数据挖掘竞赛
weixin_43827767的博客
09-29 457
一、数据集介绍 该数据集中包含三个文件：LC.csv LP.csv LCIS.csv LC数据集为标的特征表，每只标一条记录。共有21个字段，包括一个主键、7个标本身的信息字段、13个成交时借款人的信息字段。LP数据集为标的还款计划和还款记录表。每只标每期还款一个记录。共有10个字段，包括2个主键，2个还款计划字段和4个还款状态字段。LCIS数据集包含了某一个客户投资的从2015年1月1日起成交的所有标，共36个字段。包含1个主键、7个标自身信息字段和13个成交当时借款人的信息字段以及15个客户投资与收益相
Kaggle信用卡欺诈数据
sinat_41774213的博客
03-14 7700
参考链接 https://www.cnblogs.com/bonelee/p/9087882.html https://blog.csdn.net/nlpuser/article/details/81265614 https://www.cnblogs.com/gczr/p/6802948.html 数据预处理 import pandas as pd data=pd.read_csv(r'D:\d...
数据挖掘—逻辑回归分类—信用卡欺诈分析
weixin_45902007的博客
12-26 2317
文章目录1、分析目的：2、掌握要点：3、构建逻辑回归分类器4、模型评估指标5、精确度和召回率（不平衡数据衡量指标）6、案例分析： 1、分析目的： 信用卡欺诈的危害性大，如何通过遗忘的交易数据分析出每笔交易是否在正常是分析的主要目的 2、掌握要点： 了解逻辑回归分类，以及如何在 sklearn 中使用它； 信用卡欺诈属于二分类问题，欺诈交易在所有交易中的比例很小，对于这种数据不平衡的情况，到底采用什么样的模型评估标准会更准确； 完成信用卡欺诈分析的实战项目，并通过数据可视化对数据探索和模型结果评估进一步加强
逻辑回归算法实战之信用卡欺诈检测
自成背后的博客
03-01 6512
逻辑回归实战之信用卡欺诈检测1. 数据分析与预处理1.1 数据的读取与分析1.2 解决样本不均衡1.3 特征标准化 假设有一份信用卡交易记录，遗憾的是数据经过了脱敏处理，只知道其特征，却不知道每一个字段代表什么含义，没关系，就当作是一个个数据特征。 在数据中有两种类别，分别是正常交易数据和异常 交易数据，字段中有明确的标识符。要做的任务就是建立逻辑回归模型，以对这两类数据进行分类，看起来似乎很容易，但实际应用时会出现各种问题等待解决。 熟悉任务目标后，第一个想法可能是直接把数据传到算法模型中，得到输出结果就
pytorch 信用卡欺诈
最新发布
08-27
PyTorch 是一种基于Python的开源机器学习框架，可以用于信用卡欺诈检测。信用卡欺诈是一种严重的问题，给消费者和金融机构带来了巨大的损失。 利用 PyTorch 可以构建深度学习模型来识别和预测信用卡欺诈行为。在使用 PyTorch 之前，我们需要准备一个包含真实数据集的样本集，其中包含标记为欺诈和非欺诈的交易。我们可以使用监督学习算法，例如神经网络，来训练模型，以使其能够自动识别欺诈行为。 首先，我们需要将数据集划分为训练集和测试集。然后，我们可以使用 PyTorch 中的数据加载器将数据加载到模型中。接下来，我们可以定义一个包含多个隐藏层的深度神经网络模型，并选择适当的损失函数和优化算法。 通过训练模型，我们可以使其学习如何从输入特征中提取有关交易的相关信息，并对其进行分类。训练过程中，我们可以使用交叉验证技术来评估模型的性能和准确性。 在完成模型训练后，我们可以使用测试集来评估模型的性能。通过比较模型对测试集中交易的分类结果与实际的标签，我们可以计算出模型的准确率、精确度、召回率等指标，从而评估模型对于信用卡欺诈检测的效果。 总之，利用 PyTorch，我们可以构建一个强大的深度学习模型，通过对信用卡交易数据进行训练和测试，预测和识别潜在的信用卡欺诈行为。这有助于金融机构和消费者及时发现欺诈行为，减少损失，并提高金融系统的安全性。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值