使用sklearn.ensemble.RandomForestRegressor和GridSearchCV进行成人死亡率预测

已于 2024-07-29 20:03:57 修改
阅读量3.5k 收藏 28
点赞数 10
分类专栏： Machine learning 文章标签： sklearn 人工智能 python
于 2022-09-27 11:37:10 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43811536/article/details/127056376
版权

成年人死亡率指的是每一千人中15岁至60岁死亡的概率（数学期望）。这里我们给出了世界卫生组织（WHO）下属的全球卫生观察站（GHO）数据存储库跟踪的所有国家健康状况以及许多其他相关因素。要求利用训练数据建立回归模型，并预测成年人死亡率（Adult Mortality）

目录

实验要求

  1. 训练数据包含 2336 条记录和 22 个字段，对训练数据进行一定的可视化数据分析
  2. 利用训练数据，选择合适的信息作为特征建立回归模型，并预测测试数据成年人死亡率
  3. 测试数据(test_data.csv)总共包含 592 条记录，21 个字段，和训练数据相比，除了不包含 Adult Mortality 字段外，其他完全相同。

训练数据

训练数据（train_data.csv）包含 2336 条记录和 22 个字段，每个字段含义说明如下：

  • Country：国家
  • Year：年份
  • Status：发达国家或发展中国家
  • Life expectancy：预期寿命
  • Infant deaths：每千人口中的婴儿死亡人数
  • Alcohol：人均酒精消费量（以升纯酒精为单位）
  • percentage expenditure：卫生支出占人均国内生产总值的百分比
  • Hepatitis B：一岁儿童乙型肝炎免疫疫苗接种率
  • Measles：麻疹每1000人报告的病例数
  • BMI：所有人群平均BMI指数
  • under-five deaths：每千人口中五岁以下死亡人数
  • Polio：1岁儿童脊髓灰质炎免疫覆盖率（%）
  • Total expenditure：政府卫生支出占政府总支出的百分比
  • Diphtheria：1岁儿童白喉、破伤风类毒素和百日咳免疫接种率（%）
  • HIV/AIDS：每千名活产婴儿死于艾滋病毒/艾滋病（0-4岁）
  • GDP：人均国内生产总值（美元）
  • Population：人口
  • thinness 1-19 years：10至19岁儿童和青少年的消瘦流行率
  • thinness 5-9 years：5至9岁儿童中的消瘦流行率
  • Income composition of resources：财力收入构成方面的人类发展指数（从0到1）
  • Schooling：受教育年限
  • Adult Mortality：成人死亡率（每1000人中15至60岁死亡的概率）

其中Adult Mortality字段为要预测的标签(label)

数据预处理

可视化

# 数据读取和可视化分析
model_filename = './model.pkl'
imputer_filename = './imputer.pkl'
scaler_filename = './scaler.pkl'

train_data = pd.read_csv('./data/train_data.csv')
trian_data

训练数据可视化
可以看到训练数据中存在一些字段值的缺失NaN，数据中的缺失值是一个非常棘手的问题，很多文献都致力于解决这个问题。那么，数据缺失究竟带来了什么问题？假设有100个样本和20个特征，这些数据都是机器收集回来的。若机器上的某个传感器损坏导致一个特征无效时该怎么办？它们是否还可用？答案是肯定的。因为有时候数据相当昂贵，扔掉和重新获取都是不可取的，所以必须采用一些方法来解决这个问题。下面给出了一些可选的做法：

  • 使用可用特征的均值来填补缺失值；
  • 使用特殊值来填补缺失值，如-1；
  • 忽略有缺失值的样本；
  • 使用相似样本的均值添补缺失值；
  • 使用另外的机器学习算法预测缺失值。

本文经过测试比较最终使用该特征均值来补全缺失值。

特征间相关性

下面计算各个特征之间的皮尔森相关系数，皮尔森相关系数可以理解为特征与特征之间的线性相关程度，取值[-1,1]，正数就是正相关，负数就是负相关。且绝对值越大，即越接近1，相关程度越高。

# 计算各个特征之间的皮尔森相关系数
train_data.corr()

特征间相关性

相关性矩阵热力图

# 将相关性矩阵绘制成热力图
corr = train_data.corr()
corr.style.background_gradient(cmap='coolwarm')

heatmap
根据原博文中的分析：从热力图可以看出 infant deaths 与 under-five deaths 有很强的正相关，即 每千人口中的婴儿死亡人数 与 每千人口中五岁以下死亡人数 有很强的正相关；除此之外，也可以看到 thinness 1-19 years 和 thinness 5-9 years 有很强的正相关，也是一样的道理。

在实际的预处理中，本文并没有对这种相似特征进行去除，而是利用随机森林的特性得到最优随机森林模型允许单个决策树使用特征的最大数量（max_features）参数值。

数据间依赖关系

# 利用seaborn检查可视化数据之间的依赖关系
corr.style.background_gradient(cmap='coolwarm')

依赖关系

预处理

  1. 补全缺失值：采用均值填充缺失值，SimpleImputer(strategy='mean', missing_values=np.nan)
  2. 归一化：采用最小最大归一化，MinMaxScaler()。通常情况下，在建模之前，都需要对数据进行标准化处理，以消除量纲的影响。如果对未标准化的数据直接进行建模，可能会导致模型对数值大的变量学习过多，而对数值小的变量训练不够充分，往往模型效果会不好。常用的数据标准化方法有最大最小归一化、均值方差标准化、小数定标法、定量特征二值化等。最大最小归一化，顾名思义，就是利用数据列中的最大值和最小值进行标准化处理，标准化后的数值处于[0,1]之间，计算方式为数据与该列的最小值作差，再除以极差。具体公式为：
    最大最小归一化
def preprocess_data(data, imputer=None, scaler=None
最低0.47元/天 解锁文章
Jurio.21
关注
专栏目录
大数据分析案例-基于随机森林算法探索影响人类预期寿命的因素并预测人类预期寿命
m0_64336780的博客
07-04 1万+
从古到今，人们都希望自己以及家人长寿。长命百岁、寿比南山这些成语也是被大家一直所期望的。随着医疗水平的进步，人的平均寿命在慢慢提升。现在全球平均预期寿命是73.2岁，而在1950年则只有47岁。平均预期寿命是在一定的年龄别死亡率水平下，活到确切年龄X岁以后，平均还能继续生存的年数，它是衡量一个国家、民族和地区居民健康水平的一个指标。可以反映出一个社会生活质量的高低。社会经济条件、卫生医疗水平限制着人们的寿命。所以不同的社会，不同的时期，人类寿命的长短有着很大的差别；同时，由于体质、遗传因素、生活条件等个人差
线性回归实验之成人死亡率预测
行步至春深
10-10 3431
使用随机森林进行线性回归，使用网格搜索/随即搜索+交叉验证寻找最优参数
sklearn学习8-----GridSearchCV(自动调参）
weixin_34218579的博客
06-16 355
一、GridSearchCV介绍： 自动调参，适合小数据集。相当于写一堆循环，自己设定参数列表，一个一个试，找到最合适的参数。数据量大可以使用快速调优的方法-----坐标下降【贪心，拿当前对模型影响最大的参数调优，直到最优，但可能获得的是全局最优】。 二、参数使用 class sklearn.model_selection.GridSearchCV(estimator, param_grid...
机器学习——随机森林（学习笔记）
最新发布
CXDNW的博客
07-12 1005
集成学习 （ensemble learning） 是时下非常流行的 机器学习算法，它本身不是一个 单独的机器学习算法，而是通过在数据上构建多个模型，集成所有模型的建模结果。基本上 所有的机器学习领域都可以 看到集成学习的 身影。在现在的 各种算法竞赛中，随机森林，梯度提升树（GBDT），Xgboost等集成算法的身影也随处可见，可见其效果之好，应用之广。集成算法目标：集成算法 会考虑 多个评估器的 建模结果，汇总之后 得到一个综合 的结果，以此来 获取比 单个模型更好的回归或分类表现。
随机森林-sklearn.ensemble.RandomForestRegressor
NOT_GUY的博客
08-22 1万+
随机森林回归： class sklearn.ensemble.RandomForestRegressor(n_estimators=10, criterion=’mse’, max_depth=None,min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_features=’auto’, max_l
sklearn包使用Extra-Trees和GridSearchCV完成成人死亡率预测
hhhcbw的博客，欢迎各位来访
09-24 7783
使用sklearn包的Extra-Trees和GridSearchCV完成成人死亡率预测，含有关分析。
随机森林在sklearn中的实现
CDA数据分析师
03-13 564
小伙伴们大家好~o(￣▽￣)ブ，我是菜菜，我的开发环境是Jupyter lab，所用的库和版本大家参考： Python 3.7.1（你的版本至少要3.4以上 Scikit-learn 0.20.0 （你的版本至少要0.19 Numpy 1.15.3, Pandas 0.23.4, Matplotlib 3.0.1, SciPy 1.1.0 1 概述 1.1 集成算法概述 集成学习（...
随机森林回归 sklearn.ensemble.RandomForestRegressor
GitzLiu
08-22 9399
随机森林回归：随机森林是一种目标估计，通过对数据集上的部分样本形成一个分类决策树，并使用averaging去提高预测准确率和控制过拟合发生。 class sklearn.ensemble.RandomForestRegressor(n_estimators=10, criterion=’mse’, max_depth=None,min_samples_split=2, min_samples_l...
机器学习_Scikit-Learn随机森林回归(RandomForestRegressor)实例
goufeng93的博客
04-21 2715
机器学习 Scikit-Learn随机森林回归(RandomForestRegressor)实例。
B.数据挖掘机器学习[四]---汽车交易价格预测详细版本｛嵌入式特征选择（XGBoots,LightGBM），模型调参（贪心、网格、贝叶斯调参）｝
丨汀、的博客
04-23 1252
题目出自阿里天池赛题链接：零基础入门数据挖掘 - 二手车交易价格预测-天池大赛-阿里云天池 相关文章： 特征工程详解及实战项目【参考】 数据挖掘---汽车车交易价格预测[一](测评指标；EDA) 数据挖掘机器学习---汽车交易价格预测详细版本[二]｛EDA-数据探索性分析｝ 数据挖掘机器学习---汽车交易价格预测详细版本[三]｛特征工程、交叉检验、绘制学习率曲线与验证曲线｝ 前言 因为文档是去年弄的，很多资料都有点找不到了，我尽可能写的详细。后面以2021年研究生数学建模B题为例【空气质量预.
大数据分析案例-基于随机森林算法构建肥胖预测模型并探究肥胖的成因
m0_64336780的博客
03-19 1万+
本文使用UCI中一项关于人们饮食习惯和身体状况调查的数据集，分别通过决策树以及随机森林算法对数据进行处理，拟在寻找肥胖的成因。算法通过对14种影响因子进行多标签分类获取各影响因子与肥胖程度之间的权值，最终获取肥胖评估模型。人们可以通过评估模型就自己目前的生活习惯和身体状况来对未来的肥胖程度进行评估，并根据评估结果寻求解决肥胖问题的合理方式。肥胖是一种全球性的疾病，无论人们的社会或文化水平如何，它始终都是热点话题，而且全球患者的数量逐年增长。
Kaggle泰坦尼克号预测——Last
weixin_43332422的博客
08-28 385
整理了一下全部流程，写成了一个ipynb文件 导入数据集 import numpy as np import pandas as pd import matplotlib.pyplot as plt import seaborn as sns import warnings warnings.filterwarnings('ignore') ##载入数据集 data_path = 'D:/Now/Titanic/' train_data = pd.read_csv(data_path + 'train.
sklearn机器学习：随机森林回归器RandomForestRegressor
The Zen of Data Analysis
10-18 3万+
sklearn随机森林回归器类的格式 sklearn.ensemble.RandomForestRegressor (n_estimators=’warn’, criterion=’mse’, max_depth=None, min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_features=’au...
sklearn.ensemble.RandomForestRegressor建立随机森林，GridSearchCV进行参数选择
cyj5201314的博客
02-24 3094
import pandas as pd #使用sklearn导入决策树模块 from sklearn import tree #导入sklearn内置的房价数据集 from sklearn.datasets.california_housing import fetch_california_housing #获取房价数据集 housing = fetch_california_housing...
Python机器学习实践：随机森林算法训练及调参-附代码
热门推荐
数智物语
03-13 7万+
文章发布于公号【数智物语】 （ID：decision_engine），关注公号不错过每一篇干货。 来源 | 博客园 作者 | 战争热诚 随机森林是一种有监督学习算法，是以决策树为基学习器的集成学习算法。随机森林非常简单，易于实现，计算开销也很小，但是它在分类和回归上表现出非常惊人的性能，因此，随机森林被誉为“代表集成学习技术水平的方法”...
RandomForestRegressor与GridSearchCV使用——简单流程
weixin_44848780的博客
07-12 279
【代码】RandomForestRegressor与GridSearchCV使用——简单流程。
Sklearn之随机森林
A_D_I_D_A_S的博客
02-20 3167
一：定义 随机森林是一个包含多棵决策树的分类器，其输出的类别是由个别树输出的类别的众数而定。在Sklearn库中，随机森林包含：随机森林分类、随机森林回归两种。 二：随机森林分类器 class sklearn.ensemble.RandomForestClassifier(n_estimators=’warn’, criterion=’gini’, max_depth=None,min_sampl...
from sklearn.ensemble import RandomForestRegressor
04-14
sklearn.ensemble模块中的RandomForestRegressor是一个用于回归问题的随机森林模型。随机森林是一种集成学习方法，通过组合多个决策树来进行预测。RandomForestRegressor的主要特点包括： 1. 随机性：随机森林在构建每个决策树时都会使用随机选择的特征子集，这有助于减少模型的方差，并提高模型的泛化能力。 2. 决策树集成：随机森林由多个决策树组成，每个决策树都是独立训练的。最终的预测结果是基于所有决策树的平均值或投票结果。 3. 特征重要性评估：通过随机森林模型，可以评估每个特征对于预测结果的重要性，这对于特征选择和特征工程非常有用。 使用RandomForestRegressor时，你可以设置一些参数来调整模型的性能和行为，例如： - n_estimators：决策树的数量。 - max_depth：决策树的最大深度。 - min_samples_split：拆分内部节点所需的最小样本数。 - min_samples_leaf：叶节点上所需的最小样本数。
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值