程序源代码参见GitHub:https://github.com/leungBH/BankMarketing
-
数据集基本情况
目标:
根据相关的信息预测通过电话推销,用户是否会在银行进行存款。
特征:总共有50个特征。
年龄,工作类型,婚姻状况,受教育背景,信用情况,房贷,个人贷款,联系电话是手机还是固定电话,最后联系月份,最后联系日,通话持续时间,本次活动中联系的次数,最后一次接触距离上一次接触的时间,以前的活动中联系的次数,上一次活动成功与否,就业变化率,消费者物价指数,欧元银行同业拆借利率,就业人数。
数据集中愿意存款的比例大概只有1/9,存在严重的不平衡,导致精确度不高。
Yes: 4640 No: 36548
下面尝试使用几种处理数据集不平衡的方法做优化:
1,多少数分类进行过采样(复制正样本,用smote方法过采样)
2,对多数分类进行欠采样
先看看不做任何处理的结果
-
对负样本进行欠采样(随机保留一半的负样本)
相比于不做任