Conditional Expectation & Entropy

最新推荐文章于 2021-08-05 18:29:03 发布
最新推荐文章于 2021-08-05 18:29:03 发布
阅读量445 收藏
点赞数
分类专栏： Mathmatic
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/AugustMoore/article/details/84478984
版权

Conditional Expectation(条件期望)

1.Derivation

假设有两个离散随机变量X，Y。他们的概率密度分别用$P(X=x_{i}), P(Y=y_{j})$ 表示。则条件期望E(Y|X)为：

$$E(Y|X=x_{i})= \sum_{j}^{m} p(Y=y_{j}) P(Y=y_{j}| X=x_{i})$

And:

$$E(Y) = \sum_{i}^{n} p(X=x_{i})E(Y|X=x_{i})$$

 

 

Remark:

$$E(Y|X)$$ 是关于X的函数。有：$$E(E(Y|X)) = E(Y)$$

 

 

AugustMoore
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
条件期望：Conditional Expectation 举例详解之入门之入门之草履虫都说听懂了
m0_56069948的博客
10-07 1254
\left{ G_{1}, G_{2}, \ldots \right} 的最小 σ\sigma-algebra，即，任意 G\mathcal{G} 的元素都可以写作 ⋃n∈IGn\bigcup\limits_{n \in I} G_{n} 的形式，其中 I⊂N+I \subset \mathbb{N}^{+} (II 为 N+\mathbb{N}^{+} 的某些子集)。现在考虑条件期望： E[X | G]\mathbb{E}\left[ X ~ | ~ \mathcal{G} \right]。
条件数学期望
热门推荐
左超
04-28 6万+
中秋之际，得留下点东西纪念一下才行。主要说一下条件数学期望（Conditional Expectation）吧。以前本科的时候学过这玩意儿，但是当时理解太肤浅。今天看了一遍别的书，颇有心得。理科生讲究定义明确，概念清晰，下面就从定义开始。Definition：    The conditional expectation of X given Y=y is:    ①E(X|Y=y) = ∑x
【概率论】4-7:条件期望(Conditional Expectation)
Tony的博客
09-22 2万+
title: 【概率论】4-7:条件期望(Conditional Expectation) categories: - Mathematic - Probability keywords: - Expectation - Prediction - Law of total Probability toc: true date: 2018-03-27 10:53:24 Abstract: 本文介绍...
5.3 个体条件期望（Individual Conditional Expectation, ICE）
Alex
08-05 1388
单个条件期望 (ICE) 图为每个实例显示一条线，显示当特征发生变化时实例的预测如何变化。 特征平均效果的部分依赖图是一种全局方法，因为它不关注特定实例，而是关注整体平均值。 单个数据实例的 PDP 等效项称为单个条件期望 (ICE) 图（Goldstein 等人，2017）。 ICE 图分别可视化预测对每个实例的特征的依赖性，导致每个实例一条线，而部分依赖图中的一条线整体。 PDP 是 ICE 图线的平均值。 一条线（和一个实例）的值可以通过保持所有其他特征相同来计算，通过用网格中的值替换特征值来创建此实
熵（Entropy） & 条件熵 （Conditional Entropy） & 相对熵（Relative Entropy）- 学习笔记
越努力 越幸运
11-03 3619
信息熵（Entropy）：解决信息的度量问题 一条信息的信息量与其不确定性有直接的关系，如果对一件事情了解的很多，那么信息少一些，也能知晓事情本身；反之，如果对事情没有一点了解，那么则需要大量信息来对事情进行知晓。因此，信息量就等于不确定性的多少。 香农利用“比特（Bit）”来度量信息量，一个bit是一位二进制数，1字节=8bit。信息量的比特数与所有可能情况的对数函数log有关。 信息熵的...
Conditional-Entropy:使用条件熵方法查找时间段
05-16
在本案例中，"Conditional-Entropy"被用作一个算法，专门用于查找变星（Variable Star）的周期，这是天文学中的一个关键问题。 变星是指亮度会随时间变化的恒星，其亮度变化可能由于多种原因，如自转、脉动、或者有...
Spring @Conditional注解原理解析
08-25
"Spring @Conditional注解原理解析" Spring @Conditional注解是 Spring 4 新提供的注解，主要用于根据某个条件加载特定的 bean。该注解可以与 @Profile 注解配合使用，以根据不同的操作系统环境加载不同的 bean。 ...
conditional_entropy_forests：使用随机森林测量条件熵
02-20
《使用随机森林测量条件熵——深入理解conditional_entropy_forests》 在信息技术和数据科学领域，熵是一个关键概念，它衡量了信息的不确定性。条件熵则是熵的一个延伸，它描述了在已知某个或某些变量的情况下，另...
Spring Boot conditional注解用法详解
08-24
Spring Boot conditional 注解用法详解 Spring Boot conditional 注解是 Spring Boot 框架中的一种重要机制，它允许开发者根据特定的条件来决定是否创建某个 Bean，这种机制可以极大地提高应用程序的灵活性和可维护...
@Conditional注解应用.rar
05-16
在Java Spring框架中，`@Conditional`注解是实现条件化bean注入的关键工具。这个注解允许我们在配置bean时设置一些条件，只有当这些条件满足时，对应的bean才会被Spring容器实例化并注入到应用程序中。这样的设计极...
机器学习笔记十：各种熵总结
谢小小XH
03-18 3万+
信息熵，联和熵，条件熵，相对熵，互信息
Information Theory: Self-Information, Entropy, Relative entropy,Cross entropy, Conditinal Entropy
weixin_32334291的博客
04-13 199
Self-Information: I(x)=log⁡1P(x)I(x) = \log \frac{1}{P(x)}I(x)=logP(x)1​ Entropy :H(X)=E[I(X)]=E(log⁡1P(X))=∑x∈XP(x)log⁡1P(x)H(X)=E[I(X)] =E(\log \frac{1}{P(X)})=\sum_{x \in X} P(x)\log \frac{1}{P(x)}...
机器学习模型可解释性进行到底 ——PDP&ICE图（三）
素质云笔记
04-13 1万+
之前两篇有专门介绍shap值，可以说非常好用， 机器学习模型可解释性进行到底 —— 从SHAP值到预测概率（二） 机器学习模型可解释性进行到底 —— SHAP值理论（一） 文章目录1 部分依赖图（Partial Dependence Plot)1.1 理论解读1.2 如何根据PDP 进行特征筛选2 个体条件期望图（Individual Conditional Expectation Plot)3 sklearn 0.24+实现：PDP&ICE图3.1 部分依赖图（Partial Dependen
数学期望 Expectation
段哥哥的博客
05-28 4868
机器学习中涉及到的很多概念都和 Expectation 相关联，本文对 数学期望展开进行讨论
概率论经典问题之匹配问题
pdcxs007的专栏
10-23 3万+
一个屋子里面有N个人，每个人有一顶帽子。假如所有人把帽子扔到屋子中央，然后每个人都随机选一顶帽子。 a) 没有人捡到自己帽子的概率； b) 有k(k⩽N)k(k \leqslant N)个人捡到自己帽子的概率。
条件期望误差的有限性
分析101
06-05 521
1 CEF error的有限性问题 在回归中，记条件期望函数（conditional expectation function，CEF）为E[Y∣X=x]E[Y|X=x]E[Y∣X=x]，则可将因变量YYY分解为 Y=E[Y∣X=x]+e Y=E[Y|X=x]+e Y=E[Y∣X=x]+e 可记e=Y−E[Y∣X=x]e=Y-E[Y|X=x]e=Y−E[Y∣X=x]为条件期望函数误差（CEF error）。 显然，eee满足E[e∣X]=0E[e|X]=0E[e∣X]=0，E[e]=0E[e]=0E[e]=
数据学习(6)·Alternating Conditional Expectations(ACE)算法
白日梦想家
12-16 2915
作者课堂笔记，联系方式humminwang@163.com
Model-Agnostic Methods - Partial Dependence Plot (PDP)&Individual Conditional Expectation (ICE)
Gin077的专栏
02-23 1842
一、作为模型代理方法的第一节，先介绍模型代理方法的思路 从world捕捉data，用data训练模型，再用可解释性方法来对模型的结果给出解释。把模型训练和模型解释分开，使得训练模型不再局限在拥有内在可解释性的模型范围内。 二、下面介绍第一种Partial Dependence Plot (PDP)，部分依赖图形。描述的是单个或两个feature对模型outcome的边际影响。 The...
概率中的独立与相关：相互独立、条件独立、协方差、相关系数
陆上溪流
09-03 3万+
概率论与数理统计学习笔记。小记变量之间的（线性）相关性，独立性。
@Conditional
最新发布
06-10
@Conditional是Spring框架中的一个条件注解，它可以根据指定的条件来决定是否创建一个bean实例。当条件成立时，才会创建bean实例并将其添加到应用程序上下文中。 @Conditional可以用于类级别或方法级别的注解，用法非常灵活。例如，你可以使用@Conditional注解来根据不同的条件创建不同的bean实例。常见的条件包括操作系统、系统属性、环境变量、Java版本号等等。 示例代码： ```java @Configuration public class MyConfig { @Bean @Conditional(WindowsCondition.class) public MyBean windowsBean() { return new MyBean("Windows Bean"); } @Bean @Conditional(LinuxCondition.class) public MyBean linuxBean() { return new MyBean("Linux Bean"); } } ``` 上面的代码定义了两个不同的bean实例，根据不同的操作系统条件来创建不同的bean实例。其中，WindowsCondition和LinuxCondition是自定义的条件类，用于判断当前操作系统是否为Windows或Linux。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值