数据挖掘 —— 金融数据（五）

最新推荐文章于 2024-01-07 02:06:50 发布
最新推荐文章于 2024-01-07 02:06:50 发布
阅读量432 收藏
点赞数
分类专栏： 数据挖掘
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/mys_mys/article/details/99642396
版权

task 5 模型调优
使用网格搜索法对5个模型进行调优（调参时采用五折交叉验证的方式），并进行模型评估，记得展示代码的运行结果。

GridSearchCV

自动调参，输入参数 ==> 输出最优化结果和参数（适用于小数量级）

参数说明：

(1) estimator：选择使用的分类器，并且传入除需要确定最佳的参数之外的其他参数。每一个分类器都需要一个scoring参数，或者score方法：如estimator=RandomForestClassifier(min_samples_split=100,min_samples_leaf=20,max_depth=8,max_features='sqrt',random_state=10)

(2) param_grid：需要最优化的参数的取值，值为字典或者列表，例如：

param_grid =param_test1，param_test1 = {'n_estimators':range(10,71,10)}

(3) scoring=None：模型评价标准，默认None,这时需要使用score函数；或者如scoring=‘roc_auc’，根据所选模型不同，评价准则不同。字符串（函数名），或是可调用对象，需要其函数签名形如：scorer(estimator, X, y)；如果是None，则使用estimator的误差估计函数

(4) n_jobs=1：并行数，int：个数,-1：跟CPU核数一致, 1:默认值

(5) iid=True： 默认True,为True时，默认为各个样本fold概率分布一致，误差估计为所有样本之和，而非各个fold的平均

(6) refit=True：默认为True,程序将会以交叉验证训练集得到的最佳参数，重新对所有可用的训练集与开发集进行，作为最终用于性能评估的最佳模型参数。即在搜索参数结束后，用最佳参数结果再次fit一遍全部数据集。

(7) cv=None：交叉验证参数，默认None，使用三折交叉验证。指定fold数量，默认为3，也可以是yield训练/测试数据的生成器。

(8) verbose=0, scoring=None：verbose：日志冗长度，int：冗长度，0：不输出训练过程，1：偶尔输出，>1：对每个子模型都输出。

(9) pre_dispatch=‘2*n_jobs’：指定总共分发的并行任务数。当n_jobs大于1时，数据将在每个运行点进行复制，这可能导致OOM，而设置pre_dispatch参数，则可以预先划分总共的job数量，使数据最多被复制pre_dispatch次

# 导入库
from sklearn.linear_model import LogisticRegression
from sklearn.svm import LinearSVC
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import RandomForestClassifier
from xgboost import XGBClassifier

from sklearn.model_selection import RandomizedSearchCV,cross_val_predict
from scipy.stats import uniform
from sklearn import metrics
from sklearn.metrics import accuracy_score,precision_score,recall_score,f1_score,roc_auc_score,roc_curve
import matplotlib.pyplot as plt
from sklearn import svm
from sklearn.model_selection import GridSearchCV
import numpy as np

# 获取进行特征选择后的数据集
import pandas as pd
data = pd.read_csv('task2_proc.csv')
x = data.iloc[:,:-1]
y = data.iloc[:,-1]
print('feature shape:{}, label shape:{}'.format(x.shape,y.shape))

feature shape:(4455, 50), label shape:(4455,)

from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler

x_train,x_test,y_train,y_test = train_test_split(x,y,test_size = 0.3,random_state=2018)

# 对训练数据集进行标准化处理
scaler = StandardScaler()
x_train_standard = scaler.fit_transform(x_train)
x_test_standard = scaler.fit_transform(x_test)

def get_scores(label, y_train, y_test, y_train_predict, y_test_predict, y_train_proba, y_test_proba):
    train_accuracy = metrics.accuracy_score(y_train, y_train_predict)
    test_accuracy = metrics.accuracy_score(y_test, y_test_predict)
    # 精准率
    train_precision = metrics.precision_score(y_train, y_train_predict)
    test_precision = metrics.precision_score(y_test, y_test_predict)
    # 召回率
    train_recall = metrics.recall_score(y_train, y_train_predict)
    test_recall = metrics.recall_score(y_test, y_test_predict)
    # F1-score
    train_f1_score = metrics.f1_score(y_train, y_train_predict)
    test_f1_score = metrics.f1_score(y_test, y_test_predict)
    # AUC
    train_auc = metrics.roc_auc_score(y_train, y_train_proba)
    test_auc = metrics.roc_auc_score(y_test, y_test_proba)
    # ROC
    train_fprs, train_tprs, train_thresholds = metrics.roc_curve(y_train, y_train_proba)
    test_fprs, test_tprs, test_thresholds = metrics.roc_curve(y_test, y_test_proba)
    
    plt.plot(train_fprs, train_tprs, label=label+' train ROC', linewidth=2)
    plt.plot(test_fprs, test_tprs, label=label+' test ROC', linewidth=2)
    plt.title("ROC Curve")
    plt.xlabel("FPR")
    plt.ylabel("TPR")
    plt.legend()
    plt.show()
    # 输出评分
    print("训练集准确率：", train_accuracy)
    print("测试集准确率：", test_accuracy)
    print("训练集精准率：", train_precision)
    print("测试集精准率：", test_precision)
    print("训练集召回率：", train_recall)
    print("测试集召回率：", test_recall)
    print("训练集F1-score：", train_f1_score)
    print("测试集F1-score：", test_f1_score)
    print("训练集AUC：", train_auc)
    print("测试集AUC：", test_auc)
    
    train = [train_accuracy, train_precision, train_recall, train_f1_score, train_auc]
    test = [test_accuracy, test_precision, test_recall, test_f1_score, test_auc]
    return train, test

# 逻辑回归
param_lr = {'penalty':['l1', 'l2'], 
            'C':[0.0001, 0.001, 0.01, 0.1, 1.0]}
lr = GridSearchCV(LogisticRegression(), param_lr, cv=5, n_jobs=-1)
lr.fit(x_train_standard, y_train)
y_train_predict = lr.predict(x_train_standard)
y_test_predict = lr.predict(x_test_standard)
y_train_proba = lr.predict_proba(x_train_standard)[:, 1]
y_test_proba = lr.predict_proba(x_test_standard)[:, 1]
Logistic_train, Logistic_test = get_scores('Logistic', y_train, y_test, y_train_predict, y_test_predict, y_train_proba, y_test_proba)

在这里插入图片描述

训练集准确率： 0.799550994227
测试集准确率： 0.794315632012
训练集精准率： 0.727513227513
测试集精准率： 0.643274853801
训练集召回率： 0.34504391468
测试集召回率： 0.33950617284
训练集F1-score： 0.468085106383
测试集F1-score： 0.444444444444
训练集AUC： 0.80259936416
测试集AUC： 0.806774280039

# SVM
SVM = svm.SVC(C=0.6, kernel='rbf', gamma=20, decision_function_shape='ovr')
param_svm = {'C':[0.3,0.5,0.6,0.7],
             'kernel':['rbf','linear'],
             'gamma':[18,20,22]
        }
SVM = GridSearchCV(clf, param_svm, cv=5, n_jobs=-1)
SVM.fit(x_train_standard, y_train)
y_train_predict = SVM.predict(x_train_standard)
y_test_predict = SVM.predict(x_test_standard)
y_train_proba = SVM.decision_function(x_train_standard)
y_test_proba = SVM.decision_function(x_test_standard)
SVM_train, SVM_test = get_scores('SVM', y_train, y_test, y_train_predict, y_test_predict, y_train_proba, y_test_proba)

在这里插入图片描述

训练集准确率： 0.788646568313
测试集准确率： 0.792071802543
训练集精准率： 0.776
测试集精准率： 0.705357142857
训练集召回率： 0.243412797992
测试集召回率： 0.243827160494
训练集F1-score： 0.370582617001
测试集F1-score： 0.362385321101
训练集AUC： 0.80488983624
测试集AUC： 0.804135741533

# 决策树
param_DT = {'max_depth':range(1,10)}
tree = GridSearchCV(DecisionTreeClassifier(), param_DT, cv=5, n_jobs=-1)
tree.fit(x_train_standard, y_train)
y_train_predict = tree.predict(x_train_standard)
y_test_predict = tree.predict(x_test_standard)
y_train_proba = tree.predict_proba(x_train_standard)[:, 1]
y_test_proba = tree.predict_proba(x_test_standard)[:, 1]
DT_train, DT_test = get_scores('DT', y_train, y_test, y_train_predict, y_test_predict, y_train_proba, y_test_proba)

在这里插入图片描述

训练集准确率： 0.791853752405
测试集准确率： 0.777860882573
训练集精准率： 0.697860962567
测试集精准率： 0.594405594406
训练集召回率： 0.32747804266
测试集召回率： 0.262345679012
训练集F1-score： 0.445772843723
测试集F1-score： 0.364025695931
训练集AUC： 0.773804664952
测试集AUC： 0.745953834717

# 随机森林
# rf = RandomForestClassifier(n_estimators=1000,criterion='gini',oob_score=True,
#                                random_state=2018,verbose=0,n_jobs=-1)

param_rf ={'n_estimators':range(10,71,10)}
rf = GridSearchCV(estimator = RandomForestClassifier(min_samples_split=100, min_samples_leaf=20, 
                                                            max_depth=8,max_features='sqrt',random_state=10), 
                                                             param_grid =param_rf,scoring='roc_auc',cv=5)

rf.fit(x_train_standard, y_train)
y_train_predict = rf.predict(x_train_standard)
y_test_predict = rf.predict(x_test_standard)
y_train_proba = rf.predict_proba(x_train_standard)[:, 1]
y_test_proba = rf.predict_proba(x_test_standard)[:, 1]
RM_train, RM_test = get_scores('RM', y_train, y_test, y_train_predict, y_test_predict, y_train_proba, y_test_proba)

在这里插入图片描述

训练集准确率： 0.80660679923
测试集准确率： 0.795811518325
训练集精准率： 0.843971631206
测试集精准率： 0.757575757576
训练集召回率： 0.298619824341
测试集召回率： 0.231481481481
训练集F1-score： 0.441149212234
测试集F1-score： 0.354609929078
训练集AUC： 0.858928651551
测试集AUC： 0.802271093074

# XGboost
param_xgb = dict(
    max_depth = [4, 5, 6, 7],
    learning_rate = np.linspace(0.03, 0.3, 10),
    n_estimators = [100, 200]
)
xgb = GridSearchCV(XGBClassifier(), param_xgb, cv=5, n_jobs=-1)
xgb.fit(x_train_standard, y_train)
y_train_predict = xgb.predict(x_train_standard)
y_test_predict = xgb.predict(x_test_standard)
y_train_proba = xgb.predict_proba(x_train_standard)[:, 1]
y_test_proba = xgb.predict_proba(x_test_standard)[:, 1]
XGBoost_train, XGBoost_test = get_scores('XGBoost', y_train, y_test, y_train_predict, y_test_predict, y_train_proba, y_test_proba)

在这里插入图片描述

训练集准确率： 0.859846055164
测试集准确率： 0.795811518325
训练集精准率： 0.882978723404
测试集精准率： 0.660377358491
训练集召回率： 0.520702634881
测试集召回率： 0.324074074074
训练集F1-score： 0.655090765588
测试集F1-score： 0.434782608696
训练集AUC： 0.927930947429
测试集AUC： 0.809117277857

# 各模型分数对比
model_name = ['Logistic','SVM','DecisionTree','RandomForest','xgboost']
columns = ['accuracy','precision','recall','f1','roc_auc']
ttype = ['train','test']
pd_list = []
model_score_train = [Logistic_train, SVM_train, DT_train, RM_train, XGBoost_train]
model_score_test = [Logistic_test, SVM_test, DT_test, RM_test, XGBoost_test]
for train,test in zip(model_score_train,model_score_test):
    pd_list.append(pd.DataFrame([train,test],index=ttype,columns=columns))
    
pd.concat(pd_list,axis=0,keys=model_name)

在这里插入图片描述

对比未调参时的数据：
在这里插入图片描述

qmys
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
零基础数据挖掘——金融风控(二) 探索性数据分析（EDA）
evilAI9527的博客
05-14 1235
1、前言 在重看我的项目的过程中发现自己对于相关知识点理解并不透彻，希望能理论联系实际，加深自己对基础知识的理解。项目来源于阿里天池学习赛——零基础入门金融风控-贷款违约预测，感兴趣的小伙伴可以自己去原文了解。探索性数据分析（Exploratory Data Analysis, EDA）是通过了解数据集，了解变量间的相互关系以及变量与预测值之间的关系，从而帮助我们后期更好地进行特征工程和建立模型，是数据挖掘中十分重要的一步。 2、数据总览 2.1 导入数据和需要的packages import n
零基础数据挖掘——金融风控（四）实践逻辑回归
evilAI9527的博客
05-17 864
在重看我的项目的过程中发现自己对于相关知识点理解并不透彻，希望能理论联系实际，加深自己对基础知识的理解。项目来源于阿里天池学习赛——零基础入门金融风控-贷款违约预测，感兴趣的小伙伴可以自己去原文了解。
金融行业数据挖掘项目案例
03-10
关于金融行业商业智能项目案例分析，结合实际用户需求及案例，描述BI在金融行业的应用
在金融行业中数据挖掘的应用都有哪些（一）
CDA数据分析师
01-21 885
数据挖掘的应用给很多行业带来了十分显著的发展，使得我们的生活充满了智能化.当然，数据挖掘在金融行业中的应用也是有很多的，目前数据挖掘在各行各业应用广泛，尤其在金融、保险、电子商务和电信方面得到了很好的效果，下面我们就给大家介绍一下数据挖掘在金融行业中的应用都有哪些。 首先说一下风险控制，在金融行业中有很多因素会对货款偿还效能和客户信用等级计算产生不同程度的影响。数据挖...
数据挖掘 —— 金融数据（三）
倩mys的博客
08-11 244
task3 用逻辑回归、svm和决策树；随机森林和XGBoost进行模型构建，评分方式任意，如准确率等。（不需要考虑模型调参） # 导入库 from sklearn.linear_model import LogisticRegression from sklearn.svm import LinearSVC from sklearn.tree import DecisionTreeClassif...
python 数据分析，R语言与数据挖掘 | 学习资料分享 05
kwame211的博客
10-27 599
python 数据分析 为什么选 python 做数据分析？ 在数据分析和交互、探索性计算以及数据可视化等方面，Python 将不可避免地接近于其他开源和商业的领域特定编程语言/工具，如R、MATLAB、SAS、Stata等。近年来，由于 Python 有不断改良的库（主要是 pandas），使其成为数据处理任务的一大替代方案。结合其在通用编程方面的强大实力，我们完全可以只使用 P
愚公移山——金融数据挖掘
Azury0910的博客
01-04 3793
第1章 Python基础 1、变量、行、缩进与注释 (1) 变量 关于变量的命名，尽量用字母a，b，c，a_1，b_1等，或者自己创建的字符，不要用系统自带的函数（保留字）来命名，比如说不要用print来命名，写成print = 1，这样程序就会凌乱了 (2) 行 在Python中，一般来说，很少用逗号或者分号 代码都是一行一行写的，每写完一句，在句尾按Enter键，就可以换行。 (3)缩进 缩进快捷键是Tab键，按住Shift + Tab键的话就可以撤销原来的缩进 python严格要求缩进，在if，for
数据挖掘——用算法搜索隐藏信息.pdf
07-14
数据挖掘算法是实现数据挖掘的核心技术，其工作流程一般包括分类或估计、预测、相关性分组或关联规则、聚类以及数据描述和可视化处理五个步骤。 （1）分类或估计是数据挖掘的第一步，通过分析已知数据对数据进行...
信息保护的重要手段——数据挖掘——以银行业环境为例.pdf
07-14
此外，银行还需要定期对数据挖掘模型进行更新和优化，以适应金融市场环境的变化和客户需求的发展。 综上所述，数据挖掘在银行业信息安全保护中扮演着至关重要的角色。通过有效地应用数据挖掘技术，银行不仅能提高...
零基础数据挖掘——金融风控（三）特征工程
evilAI9527的博客
05-16 1292
特征工程是数据挖掘过程中至关重要的一块， 因为数据和特征决定了机器学习的上限，而算法和模型只是逼近这个上限而已，所以特征工程的好坏往往决定着最后的结果。特征工程在我看来分为数据清洗过程以及特征降维&交互&选择的过程。 前者通过重复值、异常值、缺失值的去除/填充，更好地表示出潜在问题的特征；后者或通过构造新特征使得数据的表达能力进一步放大，或根据相关性等进行特征的选择和降维以减少“维度灾难”。
数据&代码_金融数据挖掘_
09-30
SAS处理金融数据挖掘的相应代码，可以基本实现书本内容
数据挖掘技术的应用在金融领域
最新发布
程序员光剑
01-07 594
1.背景介绍 在当今的数字时代，数据已经成为企业和组织中最宝贵的资源之一。尤其是在金融领域，数据挖掘技术已经成为金融机构竞争的关键因素。数据挖掘技术可以帮助金融机构更好地了解客户需求，提高业绩，降低风险，提高效率，以及发现新的商业机会。 在本文中，我们将深入探讨数据挖掘技术在金融领域的应用，包括数据挖掘的核心概念、算法原理、具体操作步骤以及数学模型公式。我们还将通过具体的代码实例来解释数据挖掘...
数据挖掘在金融行业中的应用
程序员光剑
12-22 701
1.背景介绍 数据挖掘是一种利用统计学、机器学习和操作研究等方法从大量数据中发现隐藏的模式、关系和知识的科学。数据挖掘在金融行业中具有重要的应用价值，主要体现在风险管理、客户关系管理、营销、金融产品开发等方面。 1.1 数据挖掘在金融行业中的应用领域 风险管理：数据挖掘可以帮助金融机构更好地评估风险，例如信用风险、市场风险、利率风险等。通过对历史数据的分析，金融机构可以预测未来的风险事件，...
金融风控数据挖掘 · Task 3 特征工程
weixin_43913783的博客
09-21 302
金融风控数据挖掘 · Task 3 特征工程 一、常见的特征工程包括： 1.异常处理： 通过箱线图（或 3-Sigma）分析删除异常值； BOX-COX 转换（处理有偏分布）； 长尾截断； 2.特征归一化/标准化： 标准化（转换为标准正态分布）； 归一化（抓换到 [0,1] 区间）； 针对幂律分布，可以采用公式：log(1+x1+median)log(\frac{1+x}{1+median})log(1+median1+x​) 3.数据分桶： 等频分桶； 等距分桶； Best-KS 分桶（类似利
金融数据挖掘：发现隐藏的商业价值的方法与技巧
程序员光剑
12-29 601
1.背景介绍 金融数据挖掘是一种利用计算机科学和统计学方法对金融数据进行分析和挖掘的技术。它涉及到大量的数据处理、数据清洗、数据分析和数据可视化等方面。金融数据挖掘的目的是为了发现隐藏在数据中的商业价值，从而提高企业的竞争力和效率。 金融数据挖掘的应用范围非常广泛，包括信用评价、风险管理、投资决策、市场营销、客户关系管理等等。随着数据量的增加，金融数据挖掘的重要性也在不断提高。 本文将从以下...
类似于读后感－－－－基于大数据的金融数据挖掘章节
好好做人1234的微博
03-15 399
今天本来想写scala的 后来感觉今天没有摸到门道与核心 明天再去集群里试试。——－——－——－——－——－——－——－——－——－——－——－——－——－——－——－——－——－——－——－近20年来在TD的帮助（剥削下）银行信息系统的信息化存储水平有一定的提高。近5年来大数据的技术逐渐稳定，书中总结如下：大数据的应用与之前数据的应用的不同点在于 规模、速度、多样性、价值密度。就我行而言，规模上...
金融数据挖掘实战（二） 特征工程
Bulldozer_GD的博客
08-12 852
问题一 　　特征选择时有过滤法、包装法，集成法，这些方法在应用的时候有没有什么特别的应用场景，还是随机选择？ (1)过滤法有方差筛选、相关系数、卡方检验和互信息等，方差帅选可以剔除方差为0的无用信息；相关系数主要用于监督学习中，设定阈值，选择相关系数较大的特征；卡方检验要求非负特征集，应用场景是衡量特定条件下的分布是否与理论分布一致；户信息偏袒具有较多值的属性；个人觉得在没有什么思路的时候，可以优...
Python金融数据挖掘 第7章 第1节（1）师讲我记
xllzuibangla的博客
05-02 1273
一、基础 1、获取数据，进行数据处理，是重点，基础知识不扎实！！！ 2、python语言是及其语言，有自己的语言单位。 3、学习机器语言的遵循原则： 教条主义（函数、参数、范围、作用、语言基本构成要记住） 实用主义（灵活性，在实际环境中能够应用 （1）规范：pandas,numpy功能，函数有哪些参数，可以处理什么，熟悉python语言！ （2）逻辑、思路、过程：理清楚， （3）目标、需求：学习此类语言是要干什么 4、普遍现象 拿来主义——是一个坏习惯！！！会误导自己，首先要自己基础知识
大数据应用案例：如何在金融行业中利用数据挖掘实现风险控制和预测
baidu_38876334的博客
05-08 2010
随着数字化时代的到来，大量的金融数据被产生和积累，这些数据包括用户行为数据、交易数据、市场数据、企业数据等等。大数据和数据挖掘技术在金融行业中的应用已经带来了显著的效益，包括更好的风险控制、更好的客户服务和更高的盈利。该系统利用数据挖掘技术，分析客户的贷款数据、信用评分、经济环境等因素，预测客户可能出现的违约风险，并及时采取措施，降低贷款违约的损失。该系统利用数据挖掘技术，分析客户的交易数据、信用评分和历史欺诈行为等因素，识别潜在的欺诈行为并及时采取措施，降低信用卡欺诈的损失。
基于数据挖掘的量化交易系统设计——数据预处理关键
例如，在金融数据中，可能存在的问题有数据输入错误、延迟更新或者数据源之间的不一致性，这些问题都需要在进一步分析前进行修正。 2. **数据集成**：将来自不同来源的数据合并在一起，形成一个统一的数据视图。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值