筛选重要特征的方法feature_importance_

排列表示:

importances = model.feature_importances_ 
indices = np.argsort(importances)[::-1]
feat_labels = X_train.columns
print("Feature ranking:") 
#    l1,l2,l3,l4 = [],[],[],[]
for f in range(X_train.shape[1]):
    print("%d. feature no:%d feature name:%s (%f)" % (f + 1, indices[f], feat_labels[indices[f]], importances[indices[f]]))
print (">>>>>", importances)

画图:

feature_importance = model.feature_importances_
sorted_idx = np.argsort(feature_importance)

features_list = data.columns.values
plt.figure(figsize=(5,20))
plt.barh(range(len(sorted_idx)), feature_importance[sorted_idx], align='center')
plt.yticks(range(len(sorted_idx)), features_list[sorted_idx],)
plt.xlabel('Importance')
plt.title('Feature importances')
plt.draw()
plt.show()

筛选重要程度大于某个值的特征:

#将特征名称与对应的重要性数值做成dataframe
fea = pd.DataFrame()
fea['feature_name'] = feature_name
fea['value'] = feature_importance
fea.loc[fea['value'] >0 ]

#找出重要性为0的特征
fea_0 = fea.loc[fea['value'] == 0 ]['feature_name'].tolist()
fea_0
  • 2
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
在使用sklearn时,我们经常使用feature_importances_来进行特征筛选。然而,当你在GridSearchCV对象上使用feature_importances_时,可能会出现AttributeError: 'GridSearchCV' object has no attribute 'feature_importances_'的错误消息。这是因为在GridSearchCV对象中,feature_importances_不是一个属性。 同样地,在使用XGBoost库的XGBClassifier对象时,你可能会遇到AttributeError: 'XGBClassifier' object has no attribute 'feature_importance_'的错误消息。这是因为在XGBClassifier对象中,feature_importance_应该是feature_importances_。 对于你提到的第三个问题,你在搭建django-rest-swagger时遇到了类似的错误。根据你提供的Traceback,这个错误是由于某个模块或库中的某个对象缺少一个名为'feature_importance_'的属性。 要解决这个问题,你可以执行以下步骤: 1. 确保你正确导入了所需的库和模块,并正确使用它们的对象。 2. 检查你的代码中是否存在拼写错误或语法错误。 3. 仔细阅读相关文档和参考资料,确保你正确理解了所使用的对象和属性的名称。 如果问题仍然存在,并且你确定你的代码正确无误,那么可能是你所使用的库的版本问题。尝试更新或回退到不同的版本,并查看是否解决了问题。 总结:当出现AttributeError: 'X' object has no attribute 'feature_importance_'的错误消息时,你需要确认所使用的对象是否正确,并检查对象的属性名称是否正确拼写和使用。如果问题仍然存在,可以考虑检查库的版本或查阅相关文档以获取更多帮助。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值