高斯分布3——边缘概率与条件概率

最新推荐文章于 2025-02-07 15:17:36 发布

嘻哈过路人

最新推荐文章于 2025-02-07 15:17:36 发布

阅读量3.6k

点赞数 1

分类专栏：机器学习推导文章标签：概率论机器学习

本文链接：https://blog.csdn.net/weixin_38132153/article/details/105255480

版权

机器学习推导专栏收录该内容

26 篇文章

订阅专栏

一、推导过程:

在这里插入图片描述

二、结果：

边缘分布
x1,x2 各自依然服从 μi，写反差矩阵 Σii 的多元高斯分布；
条件概率分布
给定 xj 求 xi 的分布：
μi|j=μi+ΣijΣ−1jj(xj−μj)
Σi|j=Σjj−ΣTijΣ−1iiΣij

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

嘻哈过路人

关注关注

1
点赞
踩
5

收藏

觉得还不错? 一键收藏
3
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

机器学习笔记之高斯分布(五)推断任务之边缘概率分布与条件概率分布

静静的学习就好

11-21

1512

多元高斯分布求边缘概率，条件概率，联合概率

NP_hard的博客

04-23

1597

文章目录多元高斯分布直观理解求边缘概率，条件概率求联合概率多元高斯分布直观理解求边缘概率，条件概率 求联合概率

3 条评论您还未登录，请先登录后发表或查看评论

概率论笔记：高斯分布的条件概率

qq_40206371的博客

11-04

4001

1 符号说明将变量、均值和方差进行划分（xa是m维的，xb是n维的）：其中x满足N(μ,Σ），μ,Σ满足： 条件概率就是需要求解P(xa|xb)和P(xb|xa) 2 需要用到的定理 2.1 定理的说明这个证明不严谨，但是方便说明 3 舒尔补 4 计算条件概率 条件概率再高斯过程回归中需要用到 机器学习笔记：高斯过程_UQI-LIUWJ的博客-CSDN博客我们首先计算的分布，根据2的定理有：现在可以得到。根据与的关系可以得到的...

机器学习 - 需要了解的条件概率、高斯分布、似然函数

最新发布

分享技术人生的学习笔记和过往心得，与志同道合者共同进步

02-07

1032

似然函数是连接数据与参数的桥梁，通过“数据反推参数”的逆向思维，成为统计推断的核心工具。理解它的关键在于区分“参数固定时数据的概率”与“数据固定时参数的合理性”，这种视角转换是掌握现代统计学和机器学习的基础。

概率论笔记：高斯分布的边缘概率

qq_40206371的博客

11-04

1061

1 符号说明将变量、均值和方差进行划分（xa是m维的，xb是n维的）：其中x满足N(μ,Σ），μ,Σ满足： 边缘概率就是需要求解P(xa)和P(xb) 2 需要用到的定理 2.1 定理的说明这个证明不严谨，但是方便说明 3 边缘概率求解我们以P(xa)为例： xa可以如下构造：那么根据2中的定理，有：所以同理，有参考内容：机器学习-白板推导系列笔记（二）-数学基础_scu-liu的博客-CSDN博客 ...

模式识别与机器学习--- 3.3.1条件高斯分布

weixin_34210740的博客

03-09

608

多元高斯分布的一个重要性质是如果两个变量集是联合高斯分布，那么其中一个基于另一个变量集上的条件分布仍然是高斯分布。边缘高斯分布也有类似结论。考虑第一种情形的条件高斯分布。假设X是一个满足高斯分布的D维向量，我们把X分作两个子集Xa和Xb。不失一般性，我们记Xa为X的前M个元素，Xb为剩下D-M个元素，即我们还定义期望向量的分块及协方差矩阵的分块 ...

深入浅出：边缘概率、联合概率、条件概率与朴素贝叶斯详解

12-27

边缘概率、联合概率和条件概率是概率论与统计学中的基础概念，而朴素贝叶斯算法则是一种在机器学习中广泛使用的基于概率的分类算法。边缘概率是指事件发生的概率，即某一事件的独立概率，不考虑其他因素。例如，抛...

补数学基础之高斯分布——极大似然估计

Pioo_的博客

01-21

1975

高斯分布 就是我们常说的正态分布，也叫常态分布，名字有很多~~后面统一叫高斯分布。图形非常的常见~ 最简单的，人类的身高分布，学习成绩这种，基本都服从于高斯分布。一维高斯分布：若随机变量X服从一个位置参数为μ 、尺度参数为σ的概率分布的概率密度函数如下： μ ——均值 σ——标准差则这个随机变量就称为正态随机变量，正态随机变量服从的分布就称为正态分布，记作X~N(μ，σ2) ，读作X服从N(μ，σ2) ，或X服从高斯分布。 高斯分布先到这里，公式推导详情回去看概率论课本。极大似然估计第一次

无人车“看世界”的底层逻辑——概率密度与贝叶斯法则

slampai的博客

11-14

660

紧接上一篇，在讨论概率的含义后，讨论概率密度的含义，并引出贝叶斯法则。文章最后，在无人车运动模型和测量模型里，讨论贝叶斯法则的组成及各部分的含义。

高斯过程是什么？从视觉上理解机器学习中的高斯过程——Gaussian Process

一个苦逼研究僧的博客

10-30

4091

高斯过程Gaussian Process是什么？

多元高斯分布的边缘概率和条件概率

04-03

9057

多元高斯分布的边缘概率和条件概率。

多元高斯分布的边际分布与条件分布

03-30

MCMC算法--Gibbs采样2：多元高斯分布的边际分布与条件分布

概率分布---高斯分布

weixin_33958366的博客

12-02

1360

2019独角兽企业重金招聘Python工程师标准>>> ...

联合概率、边缘概率和条件概率

zhangyu4863的博客

07-20

1343

联合概率概念：包含多个条件且所有条件同时成立的概率 P(X =A, Y=B)表示X=A且Y=B的概率 P(X=A) = P(X =A, Y=0) + P(X =A, Y=1) + ··· ··· + P(X =A, Y=B) 边缘概率 概念：P( X =A )P( Y=B )单个条件成立的概率 条件概率 概念：在某一前提A条件成立的情况下，B条件成立的概率 ...

高斯分布与边缘化

aipiano

01-09

2890

高斯分布的表示 高斯分布有两种表达方式协方差矩阵+均值信息矩阵+信息矢量协方差矩阵+均值的方式比较常见，如下 p(x)=ηexp⁡{−12(x−μ)TΣ−1(x−μ)} p(x)=\eta \exp\{-\frac{1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu)\} p(x)=ηexp{−21(x−μ)TΣ−1(x−μ)} 其中对称正定矩阵Σ\SigmaΣ为随机变量x...

高斯分布数学性质及推导（二）：如何证明高斯分布的边缘概率和条件概率公式

Weiwei_xu_g的博客

09-01

3852

上一讲对高维高斯概率分布N(μ,∑)\mathcal{N}(\mu,\sum)N(μ,∑)在定义域上积分为1进行了证明，这一讲来推导高斯分布的边缘概率和条件概率公式。推导过程与PRML一书类似，但对细节进行了展开介绍。随后介绍如何利用高斯随机变量的线性组合公式进行推导。高维高斯分布N(μ,∑)\mathcal{N}(\mu,\sum)N(μ,∑)的具体公式可写为： N(μ,∑)=1(2π)N2∣∑...

深入理解边缘高斯分布与条件高斯分布

新型多传感器导航融合算法及基于贝叶斯框架下自适应鲁棒滤波

01-23

2485

多元高斯分布在统计学和机器学习领域中扮演着关键的角色。在这个分布的框架下，我们经常会遇到边缘高斯分布和条件高斯分布，它们分别涉及了从原始分布中选择一部分变量和在已知条件下计算其他变量的概率分布。本文将深入研究这两个概念，探讨它们的核心思想、数学表示以及在实际问题中的应用。

PRML学习笔记-条件高斯分布与边缘高斯分布的常用性质

qq_37394299的博客

11-14

1268

条件高斯分布与边缘高斯分布的常用性质基本知识多元高斯分布的一个重要性质是,如果两组变量是联合高斯分布,那么以一组变量为条件,另一组变量同样是高斯分布。类似地,任何一个变量的边缘分布也是高斯分布。首先考虑条件概率的情形。假设 x 是一个服从高斯分布 N(x∣μ,Σ)\mathcal{N}(\boldsymbol{x} | \boldsymbol{\mu}, \mathbf{\Sigma})N(...

高斯分布4——联合概率分布

方悔读书迟

04-02

8481

x满足多维高斯分布，y是x的线性组合加上噪声

高斯混合贝叶斯最大后验概率

01-17

### 高斯混合模型高斯混合模型 (Gaussian Mixture Model, GMM) 是一种基于概率的聚类算法，用于表示数据点来自多个不同的正态分布。该模型假设观测到的数据是由若干个高斯分量组成，每个分量代表一类潜在类别。 #### 数学表达设 \( \mathbf{x}=(x_1,x_2,\ldots,x_n)^T \) 表示一组 n 维特征向量，则 K 个成分的 GMM 可以定义为： \[ p(\mathbf{x})=\sum_{k=1}^{K}\pi_k\mathcal{N}(x|\mu_k,\Sigma_k), \] 其中 \( \pi_k \) 称作第 k 类别的混合系数；\( \mathcal{N}(x|\mu_k,\Sigma_k) \) 表示均值为 μ 和协方差矩阵 Σ 的多元高斯密度函数[^1]。 ```python from sklearn.mixture import GaussianMixture gmm = GaussianMixture(n_components=3) gmm.fit(X_train) labels = gmm.predict(X_test) ``` ### 贝叶斯定理贝叶斯定理由英国数学家托马斯·贝叶斯提出，在统计推断领域占据重要地位。其核心思想是在给定新证据的情况下更新事件发生的可能性大小。公式如下所示: \[ P(A|B)=\frac{P(B|A)\cdot P(A)}{P(B)}, \] 这里 A 和 B 分别指代两个随机变量; P(A) 和 P(B) 分别称为边缘概率或先验概率; P(B|A) 则被称为条件概率或者似然度;而最终得到的结果 P(A|B)，即后验概率反映了当已知某些事实之后我们对于未知事物的新认识程度[^2]。 ### 最大后验概率(MAP) 最大后验估计(Maximum a Posteriori Estimation, MAP) 结合了极大似然估计(ML)的思想与贝叶斯理论中的先验信息。它不仅考虑了样本本身所提供的信息，还加入了对参数本身的主观判断——也就是所谓的“先验”。在实践中，通常会设定一个合理的先验分布形式并调整超参使其更贴近实际情况。相比 ML 方法而言，这种方法能够有效防止过拟合并提高泛化能力。具体实现上就是寻找使得联合概率最大的那组参数θ* : \[ \theta^*=\arg\max_\theta[P(D|\theta)\times P(\theta)] \] 此处 D 表示训练集内所有实例构成的整体输入输出序列集合；后者则是针对待估测对象所指定的一个适当类型的概率质量/密度函数。