关于机器学习中的i.i.d假设

最新推荐文章于 2024-03-21 17:13:25 发布
最新推荐文章于 2024-03-21 17:13:25 发布
阅读量695 收藏
点赞数
文章标签： 人工智能
原文链接：http://www.cnblogs.com/jiangkejie/p/9986417.html
版权

机器学习领域有个很重要的假设：IID独立同分布假设，就是假设训练数据和测试数据是满足相同分布的，

这是通过训练数据获得的模型能够在测试集获得好的效果的一个基本保障。 

怎么知道训练数据和测试数据是独立同分布的呢? 训练集训练出了模型，测试集准确性比较低???

 

转载于:https://www.cnblogs.com/jiangkejie/p/9986417.html

weixin_30471561
关注
机器学习中的独立和同分布 （IID）：假设和影响
gongdiwudu的专栏
11-17 5286
在机器学习中，独立和同分布 （IID） 的概念在数据分析、模型训练和评估的各个方面都起着至关重要的作用。IID 假设是确保许多机器学习算法和统计技术的可靠性和有效性的基础。本文探讨了 IID 在机器学习中的重要性、其假设及其对模型开发和性能的影响。
[Python从零到壹] 十二.机器学习之回归分析万字总结全网首发（线性回归、多项式回归、逻辑回归）
热门推荐
杨秀璋的专栏
07-03 4万+
前一篇文章讲述了数据分析部分，主要普及网络数据分析的基本概念，讲述数据分析流程和相关技术，同时详细讲解Python提供的若干第三方数据分析库，包括Numpy、Pandas、Matplotlib、Sklearn等。本文介绍回归模型的原理知识，包括线性回归、多项式回归和逻辑回归，并详细介绍Python Sklearn机器学习库的LinearRegression和LogisticRegression算法及回归分析实例。进入基础文章，希望对您有所帮助。
机器学习中的独立同分布（I.I.D.）假设
June
07-23 9475
随机过程简介 随机过程的本质有两个要点： 一是随机，随机说明任何时候结果都存在不确定性，即分布函数（或者概率密度函数） 二是过程，过程体现的是时间；在时间t时，随机变量服从某一分布，另一时刻随机变量服从某一分布； 如图所示：（随机过程中的所有随机变量服从高斯分布，就是高斯过程，泊松过程同理） 独立同分布的定义 独立同分布是指随机过程中，任何时刻的取值都为随机变量，如果这些随机变量服从同一分布，并且互相独立，那么这些随机变量是独立同分布 如果随机变量 X1 和 X2 独立，是指 X1 的取值
IID独立同分布假设
TYtrack的博客
04-01 3409
1.独立同分布independent and identically distributed (i.i.d.) 在概率统计理论中，如果变量序列或者其他随机变量有相同的概率分布，并且互相独立，那么这些随机变量是独立同分布。 在西瓜书中解释是：输入空间中的所有样本服从一个隐含未知的分布，训练数据所有样本都是独立地从这个分布上采样而得。 2.简单解释独立、同分布、独立同分布 （...
机器学习三大基本假设
nailixiaomianbao的博客
12-11 501
机器学习三大基本假设
『迷你教程』机器学习中的假设&数理统计中的假设检验
Mr数据杨
01-29 1万+
文章目录什么是假设？什么是统计学中的假设？机器学习的假设是什么？对假设的审查 有监督的机器学习通常被描述为近似目标函数的问题，该目标函数将输入映射到输出。 这种描述的特点是从假设空间中搜索和评估候选假设。 对于初学者来说，机器学习中关于假设的讨论可能令人困惑，尤其是当假设“在统计学中有着不同但相关的含义。统计假设检验)和更广泛的科学(例如科学假设)。 什么是假设？ 假设是对某事的解释。 仅仅是一个暂时的想法，一个有规则的猜测，需要一些评估。 一个好的假设是可以检验的，它可以是正确的，也可以是错误的。 在科
机器学习（假设空间与版本空间）
qq_39822872的博客
09-10 1408
假设空间：所有属性的可能取值所组成的集合， 比如西瓜：色泽属性可取（青绿，乌黑，浅白，*），根蒂属性可取（蜷缩，稍蜷，硬挺，*），敲声属性可取（浊响，清脆，沉闷，*），以及好瓜假设不存在。即西瓜问题的假设空间大小为（4*4*4+1=65）。 版本空间：根据已获取的信息（数据集）对假设空间进行剪枝，即找到一个与数据集匹配的假设空间子集。 子集：如果一个集合A的任意一个元素都是集合B的集合，那么...
稳定学习帮你摆脱i.i.d假设困扰
coderSalad的博客
09-10 2646
❝ 本文主要参考崔鹏老师2021年的文章Deep Stable Learning for Out-Of-Distribution Generalization，为方便大家理解，首先对稳定学习的动机进行介绍，然后对论文方法进行具体讲解。 ❞ Stable Learning简介 引例 识别一张图片中是否有狗。在很多预测问题中，我们拿到的数据集往往都是有偏的，比如我们拿到的数据中有80%的图片中狗都在草地上，这样就导致在训练集中草地这一特征会和图片中是否有狗这个label十分相关。基于这样的有偏数据集学
Learnability of non-i.i.d
02-07
### 学习理论中的非独立同分布（non-i.i.d.）学习能力研究 #### 摘要与背景 在机器学习理论中，学习能力一直是核心问题之一。传统的学习理论通常假设训练样本是独立同分布(i.i.d.)的，即样本之间相互独立，并且...
[Python从零到壹] 十三.机器学习之聚类算法四万字总结全网首发（K-Means、BIRCH、树状聚类、MeanShift）
杨秀璋的专栏
07-06 1万+
欢迎大家来到“Python从零到壹”，在这里我将分享约200篇Python系列文章，带大家一起去学习和玩耍，看看Python这个有趣的世界。所有文章都将结合案例、代码和作者的经验讲解，真心想把自己近十年的编程经验分享给大家，希望对您有所帮助，文章中不足之处也请海涵。Python系列整体框架包括基础语法10篇、网络爬虫30篇、可视化分析10篇、机器学习20篇、大数据分析20篇、图像识别30篇、人工智能40篇、Python安全20篇、其他技巧10篇。您的关注、点赞和转发就是对秀璋最大的支持，知识无价人有情，希望
美国三院院士、加州大学伯克利分校统计系主任Michael I. Jordan介绍[推荐的机器学习书单等] (公号可下载PDF)
数据简化DataSimp社区
06-22 6319
美国三院院士、加州大学伯克利分校统计系主任Michael I. Jordan介绍[推荐的...
机器学习高阶认识(一): 机器学习假设与迁移学习
天狼啸月1990的博客
07-01 516
传统机器学习的主要假设之一（例如上文所述的监督学习） 是用于训练分类器的训练数据和用于评估分类器的测试数据属于相同的特征空间，并且遵循相同的概率分布。但是，由于人的可变性，在许多应用中经常违反这一假设[55]。 reference: A. M. Azab, J. Toth, L. S. Mihaylova, and M. Arvaneh, “A review on transfer learning approaches in brain–computer interface,” inSigna.
《机器学习》中的假设空间和版本空间
青年有志
04-24 3631
监督学习（supervised learning）的任务是学习一个模型，使模型能够对任意给定的输入，对其相应的输出做出一个好的预测。我们也可以将学习过程看作一个在所有假设组成的空间中进行搜索的过程，搜索目标是找到与训练集"匹配"的假设，即能够将训练集中的瓜判断正确的假设。假设的表示一旦确定，假设空间及其规模大小就确定了。与训练集一致的“假设集合”。
【机器学习】独立同分布IID
风口IT猪的成长录
06-30 1683
独立同分布IID1. 独立同分布(i.i.d.)2. 简单解释独立、同分布、独立同分布3. 机器学习领域的重要假设4. 目前发展 1. 独立同分布(i.i.d.) 独立同分布IID(independent and identically distributed) 在概率统计理论中，如果变量序列或者其他随机变量有相同的概率分布，并且互相独立，那么这些随机变量是独立同分布。 在西瓜书中解释是：输入空间中的所有样本服从一个隐含未知的分布，训练数据所有样本都是独立地从这个分布上采样而得。 2. 简单解释独立、同
i.i.d 独立同分布
hxxjxw的博客
06-08 748
iid，independently identically distribution，独立同分布
2024-03-21 问AI: 深度学习中，IID 独立同分布是什么？
最新发布
baidu_24377669的博客
03-21 1487
它用来描述数据集的样本属性，具体来说就是，如果一个数据集的每个样本都是从同一个概率分布中独立随机抽取的，并且所有的样本都遵循相同的分布，那么这个数据集就被认为是i.i.d.的。举个例子，假设我们有一个关于顾客购买行为的数据集，这个数据集是i.i.d.的，如果我们想用这个数据集来训练一个预测顾客是否会购买某商品的模型，我们可以每次随机抽取一个顾客的购买记录，用这个记录来训练模型，然后重复这个过程多次。这表示无论我们观察数据集中的哪个样本，它们都具有相同的统计特性，即它们的概率分布是相同的。
为什么训练集和测试集合都是来自同一分布
m0_61922623的博客
08-02 484
为什么训练集和测试集合都是来自同一分布
论文阅读 (四)：Multi-Instance Learning by Treating Instances As Non-I.I.D. Samples (MIGraph & miGraph2009)
因吉的博客
05-21 2322
文章目录引入 引入   论文地址：https://cs.nju.edu.cn/zhouzh/zhouzh.files/publication/icml09miGraph.pdf   论文出发点：包中的实例非独立同分布 (non-I.I.D.)   设计的两种方法：   1）MIGraph：明确将每个包映射为无向图 (undirected graph)，并设计一种graph kernel来区分正包和负包；   2）miGraph：通过affinity matrix来隐式地构建图，并设计一种相应的graph k
机器学习（1）：独立同分布IID(independent and identically distributed)
weixin_41847115的博客
10-07 3万+
1.独立同分布independent and identically distributed (i.i.d.)    在概率统计理论中，如果变量序列或者其他随机变量有相同的概率分布，并且互相独立，那么这些随机变量是独立同分布。    在西瓜书中解释是：输入空间中的所有样本服从一个隐含未知的分布，训练数据所有样本都是独立地从这个分布上采样而得。   2.简单解释独立、同分布、独立同分布 （...
机器学习基础：极大似然估计在概率预测中的应用
"该资源是关于机器学习的书籍，特别是关注极大似然假设在预测概率中的应用，适合计算机科学、统计学以及社会科学等领域的学生和研究人员。书中涵盖了广泛的机器学习算法和理论，同时强调理论与实践的结合，提供了...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值