【一起啃书】西瓜书——集成学习

最新推荐文章于 2024-07-24 18:14:54 发布
最新推荐文章于 2024-07-24 18:14:54 发布
阅读量373 收藏 1
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/YasmineC/article/details/123678656
版权

集成学习 Boosting Bagging 个体学习器 随机森林
关键词由CSDN通过智能技术生成

集成学习复习局（这一节概念不少，大体略过，主要是给导师做ppt，简单看看）

集成学习分类

个体学习器之间存在强依赖关系，必须串行生成的序列化方法：Boosting
个体学习器之间不存在强依赖关系，可同时生成的并行化方法：Bagging 随机森林

集成学习例子

在这里插入图片描述

Bagging思想

目的：通过训练集的不同来保证好而不同的“不同”。
思路：从训练集从进行子抽样组成每个基模型所需要的子训练集，对所有基模型预测的结果进行综合产生最终的预测结果。

取样方法

在这里插入图片描述

反科研pua所所长
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
周志华《Machine Learning》学习笔记（10）--集成学习
VAY-长跑
04-14 8536
上篇主要介绍了鼎鼎大名的EM算法，从算法思想到数学公式推导（边际似然引入隐变量，Jensen不等式简化求导），EM算法实际上可以理解为一种坐标下降法，首先固定一个变量，接着求另外变量的最优解，通过其优美的“两步走”策略能较好地估计隐变量的值。本篇将继续讨论下一类经典算法–集成学习。
手把手教你从零开始学习51单片机教程（王云）
04-10
这几天看到很多学友，不知道该怎么进行51单片机的学习，现在我将以前用到过的资料给你们共享出来，对于初学者最好是可以买一块开发板来跟着练，千万不要只看书而不注重实践，学电子最重要的就是动手，啃书再多你也...
集成学习PPT-同济大学
04-06
同济大学机器学习课程PPT
西瓜书+南瓜树第八章 集成学习
yks的博客
12-25 599
集成学习8.1 个体与集成8.2 Boosting8.2.1Boosting介绍8.2.2AdaBoost算法 8.1 个体与集成 集合个体应该和而不同， ①和指个体学习器的泛化误差应该小于随机误差，以二分类问题为例，就是指误差ϵ\epsilonϵ<0.5 ②不同指的是，个体学习器之间应该有所差异，这样集成学习才有意义 收敛条件的两个结论： ①个体学习器越多越好，能降低集成错误率 ②ϵ≠\epsilon\neqϵ​= 0.5 8.2 Boosting 8.2.1Boosting介绍 Boosting
【一起啃书】西瓜书——支持向量机
YasmineC的博客
03-18 1148
直接跳到支持向量机的动机是，遇到了核函数，加上这一节的很多难点在多类课中学了又学，却总是学不明白，所以准备系统的了解支持向量机的大概，并重点学习我的目标知识： 核函数的意义、作用，哪些场景会应用到核函数 核密度估计、高斯核函数与核函数的关系 对支持向量的理解 maximal margin classifier（寻找类别边界点，在边界点中间确定一点，作为阈值，使得边界点到阈值之间的距离，称为margin，最大，则应该选择两个边界点的中间值），这种方法简单，但对异常值过于敏感（下图），所以出现了新的解决方法
【一起啃书】《机器学习》第八章 集成学习
xtcc的博客
05-27 1295
是个体学习器的平均分歧。Boosting是一种可将弱学习器提升为强学习器的算法：先从初始训练集训练出一个基学习器，再根据基学习器的表现对训练样本的分布进行调整，使得先前基学习器做错的训练样本在后续受到更多关注，然后基于调整后的样本分布来训练下一个基学习器；在一般经验中，如果把好坏不等的个体学习器掺到一起，那么通常结果会是比最坏的要好一些，比最好的要坏一些，要获得好的集成，个体学习器应“好而不同”，即个体学习器要有一定的“准确性”，并且要有“多样性”，也就意味着学习器间具有差异，如下所示。
【一起啃书】西瓜书（一）
YasmineC的博客
03-18 807
up收藏夹 AI学习推荐视频（可以看看论文精读，李牧老师） 公式推导：感性认识+参数+详细理论推导（西瓜书+南瓜书 https://github.com/datawhalechina/pumpkin-book 《机器学习实战》） 《深度学习入门》把我们调的包都写出来了 绪论（没什么公式） 机器学习解决的问题，拟合函数（我认为） 奥卡姆剃刀原则（选最简单的算法？解？） 发展历程 线性模型 基本形式（简单） 线性回归 d个属性 m个样本 目标是学习规则 学习的方式就是通过均方差，求预测值和实际值的均方差的和的最
【一起啃书】机器学习西瓜书白话解读——01绪论
qq_42713936的博客
02-16 275
机器学习的基本概念
一起啃书系列——Python编程从入门到实践1——基础知识阶段
qq_44761926的博客
10-13 523
一起啃书系列——Python编程从入门到实践1——基础知识阶段前言欢迎来到Alex一起啃书系列——第一部Python学习阶段第1章.起步1.1搭建编程环境1.2Pycharm简单使用介绍1.3Pycharm进阶学习（刚开始学习可以不看）1.4从终端安装运行Python程序1.5小结第2章.变量和简单数据类型功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一
一起啃书系列——知识图谱概念与技术肖仰华——基础知识阶段1
qq_44761926的博客
10-25 631
欢迎来到和Alex一起啃书系列——知识图谱概念与技术肖仰华——基础知识阶段前言第一章、知识图谱概述1.1知识图谱的基本概念1.2知识图谱的历史沿革 前言 你好！ 本笔记主要用于个人复习使用。即将要进入到研究生学习阶段，我打算开始复习一下之前所学习过的知识，以便于以后更好的进入到CV/NLP的学习中去，如果你也恰好在学习相关知识，可以阅读这篇文章，了解一下知识图谱相关的概念与技术的知识，如有不到位之处，请多包涵。 友情提示，本文档更像是一个阅读笔记，一定要配合书籍一同阅读。 本书自底向上进行，先讲述知识图谱
Numpy基础学习
12-22
这是一篇介绍Numpy基础的文章，是我啃书的笔记，不对Numpy的实现原理和高级特性等细节 做过多研究，学会基础的Numpy就可以应对日常的大部分数值型数据的操作，后面的博客我会 继续记录Pandas的学习进程，它将会更加...
c++后端开发学习路线
04-03
​ 每个人的学习方法都各不相同，我后面的学习路线都是书籍和视频相结合的，我个人也建议不要上来就啃书，上来就看书的话可能会觉得枯燥而且容易抓不住重点，但后期应把精力逐渐放到书籍上，因为视频里的内容都是...
学习C#时，学习写的空当接龙
06-27
在学习C#编程的过程中，创建一个“空当接龙”游戏是相当常见且有趣的实践项目。这个项目不仅可以帮助初学者巩固面向对象编程的概念，还能深入理解Windows Forms应用程序的开发。以下是一些关于C#和纸牌游戏开发的...
java思维导图，精美文章配合xmind源导图学习，让java不再难懂 .rar
06-18
前期千万不要盲目直接啃书和教程，不然你看完也觉得自己没有学到什么，无论学习任何知识我们脑子里都要先有框架，然后着手重难点的学习 这里给大家整理了Java思维导图，小伙伴们可以对java有系统的认识 最近不是很忙...
【一起啃书】机器学习西瓜书白话解读——02模型评估与选择（2.3）
qq_42713936的博客
02-19 281
第2章 模型评估与选择2.3 性能度量（0207 均方误差）2.3.1 错误率与精度（0208）2.3.2 查重率、查全率与F1查重率、查全率（0209）P-R反向关系原理（0210）P-R反向关系图像与F1（0211）macro/micro - P/R（0213）2.3.3 ROC与AUCROC曲线与AUC（0215）排序损失rank-loss（0216）AUC与rank-loss（0217）2.3.4 代价敏感错误率与代价曲线代价敏感曲线引入（0218）代价曲线思路（0219） 2.3 性能度量（020
Python 机器学习求解 PDE 学习项目——PINN 求解二维 Poisson 方程
qq_39538718的博客
07-23 1614
Python 机器学习求解 PDE 学习项目——PINN 求解二维 Poisson 方程
【机器学习算法基础】（基础机器学习课程）-08-决策树和随机森林-笔记
g1997c的博客
07-23 790
决策树通过选择能够最大化信息增益或最小化基尼指数的特征来进行数据的划分。最终，我们得到的树结构可以帮助我们做出分类或回归的决策。假设我们要根据天气情况（晴天、阴天、雨天）和温度（高、中、低）来决定是否去公园。熵：初始情况下，不知道天气和温度时，去公园和不去公园的比例是50/50，熵较高。条件熵：根据天气情况，发现晴天去公园的比例很高，雨天去公园的比例很低。信息增益：选择天气作为第一个划分特征，因为它能最大程度减少熵。增益率。
【机器学习】如何在Jupyter Notebook中安装库以及简单使用Jupyter实现单变量线性回归的模型f
最新发布
m0_49243785的博客
07-24 1014
一个简单的线性回归的模型的实现过程
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值