![](https://img-blog.csdnimg.cn/20190918140158853.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
随机森林学习笔记
文章平均质量分 85
在菜菜老师课件的基础上写了一些自己的理解,运行结果,代码的注释等,是随机森林学习笔记
功夫大笨鲨
这个作者很懒,什么都没留下…
展开
-
随机森林参数,属性,接口列表
文章目录前言一、随机森林参数列表二、随机森林属性列表三、随机森林属性列表前言引用菜菜老师的列表一、随机森林参数列表二、随机森林属性列表三、随机森林属性列表原创 2021-11-13 22:04:34 · 1004 阅读 · 0 评论 -
随机森林在乳腺癌数据上的调参
文章目录前言乳腺癌数据调参1. 导入库2. 导入数据并探索3. 简单建模,看模型本身在数据集上的效果4. 随机森林调整的第一步:无论如何先来调n_estimators5. 在确定好的范围内,进一步细化学习曲线注意6. 使用网格搜索和学习曲线的大概判断方法7. 开始按照参数对模型整体准确率的影响程度进行调参,首先调整max_depth8.调整max_features注意9. 调整min_samples_leaf10.继续尝试min_samples_split11. 最后尝试一下criterion12.调整.原创 2021-10-23 15:46:03 · 615 阅读 · 0 评论 -
机器学习中调参的基本思想
文章目录前言一、泛化误差二、偏差vs方差总结前言模型调参,第一步是要找准目标:我们要做什么?一般来说,这个目标是提升某个模型评估指标,比如对于随机森林来说,我们想要提升的是模型在未知数据上的准确率(由score或oob_score_来衡量)。找准了这个目标,我们就需要思考:模型在未知数据上的准确率受什么因素影响?。一、泛化误差在机器学习中,我们用来衡量模型在未知数据上的准确率的指标,叫做泛化误差(Genelization error)当模型在未知数据(测试集或者袋外数据)上表现糟糕时,我们.原创 2021-10-22 16:13:44 · 233 阅读 · 0 评论 -
随机森林案例:回归森林填补缺失值
文章目录前言使用随机森林回归填补缺失值1.导入库2. 以波士顿数据集为例,导入完整的数据集并探索3.为完整数据集放入缺失值4. 使用0和均值来进行填补5. 使用随机森林填补缺失值6. 对填补好的数据进行建模及评分7. 用所得结果画出条形图总结前言我们从现实中收集的数据,几乎不可能是完美无缺的,往往都会有一些缺失值。面对缺失值,很多人选择的方式是直接将含有缺失值的样本删除,这是一种有效的方法,但是有时候填补缺失值会比直接丢弃样本效果更好,即便我们其实并不知道缺失值的真实样貌。在sklearn中,我们.原创 2021-10-20 17:07:37 · 1181 阅读 · 1 评论 -
随机森林回归器
文章目录前言一、重要参数criterion二、重要属性和接口三、随机森林回归用法总结前言所有的参数,属性与接口,全部和随机森林分类器一致。仅有的不同就是回归树与分类树的不同,不纯度的指标,参数Criterion不一致。一、重要参数criterion回归树衡量分支质量的指标,支持标准有三种:输入"mse"使用均方误差mean squared error(MSE),父节点和叶子节点之间的均方误差的差额将被用来作为特征选择的标准,这种方法通过使用叶子节点的均值来最小化L2损失输入“fr.原创 2021-10-19 11:02:12 · 1576 阅读 · 0 评论 -
随机森林分类器
文章目录前言一、重要参数1.1 控制基评估器的参数1.2 n_esitmators1.2.1 建立森林1.3 random_state1.4 重要属性之一:estimators,查看森林中树的情况1.5 bootstrap & oob_score1.6 重要属性之一: 使用oob_score_来查看模型在袋外数据上的测试结果二、重要属性和接口三、Bagging(装袋法)的另一个必要条件总结前言随机森林是非常具有代表性的Bagging(装袋法)集成算法,它的所有基评估器都是决策树,分类树组成的.原创 2021-10-18 21:16:00 · 4623 阅读 · 0 评论 -
随机森林概述
文章目录前言集成算法1. 集成算法概述2.sklearn中的集成算法总结前言在决策树的基础上来学习随机森林集成算法1. 集成算法概述集成学习(ensemble learning)是时下非常流行的机器学习算法,它本身不是一个单独的机器学习算法,而是通过在数据上构建多个模型,集成所有模型的建模结果。基本上所有的机器学习领域都可以看到集成学习的身影,在现实中集成学习也有相当大的作用,它可以用来做市场营销模拟的建模,统计客户来源,保留和流失,也可用来预测疾病的风险和病患者的易感性。在现在的各种算法竞.转载 2021-10-17 19:07:54 · 131 阅读 · 0 评论