使用随机逻辑回归进行特征筛选,并利用筛选后的特征建立逻辑回归模型

本文介绍了如何使用Scikit_Learn库的RandomizedLogisticRegression进行特征筛选。该方法通过在训练数据上进行子采样并应用L1惩罚的逻辑回归模型,其中随机子集的系数已缩放。通过多次随机化,它为反复被选中的特征赋予高分,实现稳定性选择。最终,选取得分高的特征用于建立逻辑回归模型。
摘要由CSDN通过智能技术生成
from sklearn.linear_model import LogisticRegression as LR
from sklearn.linear_model import RandomizedLogisticRegression as RLR

rlr=RLR()  #建立随机逻辑回归模型,筛选变量
rlr.fit(x,y)  #训练模型
rlr.get_support()  #获取特征筛选结果

print(u'有效特征为:%s'%','.join(np.array(data.iloc[:,:8].columns)[rlr.get_support()]))
x=data[np.array(data.iloc[:,:8].columns)[rlr.get_support()]].as_matrix()  #筛选好特征

lr=LR()  #建立逻辑回归模型
lr.fit(x,y)  #用筛选后的特征数据来训练模型
print(u'逻辑回归模型训练结束')
print(u'模型的平均正确率为:%s'%lr.score(x,y))  #给出模型的平均正确率

Scikit_Learn API :

sklearn.linear_model  广义线性模型

sklearn.linear_model.LogisticRegression   Logistic 回归分类器

Methods:

评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值