关于高斯分布

已于 2024-07-27 16:55:47 修改
阅读量233 收藏 1
点赞数 3
分类专栏： 白板推导 文章标签： 算法
于 2024-07-25 16:26:04 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45124463/article/details/140691179
版权

对单/多元高斯分布进行极大似然估计是有偏的,均值没偏，方差偏小(只推导了单变量，没推多元高斯的MLE)

任何协方差矩阵都是半正定的，与高斯分布无关

当给出高斯分布pdf的时候要求∑正定，即∑特征值均为正数

高斯分布的截面是椭圆/圆，决定于协方差矩阵∑的特征值，如果特征值都相等就是圆,不相等就是椭圆,各个轴长为根号λ,轴方向即∑的特征向量们

高斯分布的协方差矩阵如果是对角的，那么这个椭圆/圆就是摆正的，因为对角矩阵的特征向量们就是ei

各向同性的高斯分布：协方差矩阵为对角的，且对角元相同，即∑=λI

利用该定理，可以秒得边缘概率分布，也是高斯，只要找出A即可

利用该定理，也可以秒出条件概率分布，也是高斯

两个独立的高斯分布之和仍未高斯，均值相加，方差相加....

给出2个随机向量的协方差：E((x-ux)(y-uy)T)#  在随机变量的基础上加个转置即可

下面的例子给出了规避bayes概率密度计算的快速计算方法：向量叠高，先求联合分布，再代入条件公式

lemma:两个高斯分布，如果任意线性组合仍未高斯分布，则叠高后为多元高斯（平时的问题都满足）

wonag
关注
  • 3
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
多元高斯分布的边际分布与条件分布
03-30
这些定理可能涉及关于矩阵运算和概率分布的性质，它们是理解和推导多元高斯分布边际分布与条件分布的关键。定理4可能是关于协方差矩阵的某种性质，而定理3可能与联合分布的分解有关，这些都是多元高斯分布理论中的...
高斯分布 协方差
qq_38858247的博客
10-22 1万+
高斯分布（Gaussian Distribution）的概率密度函数（probability density function）： 对应于numpy中： numpy.random.normal(loc=0.0, scale=1.0, size=None) 参数的意义为： loc：float     此概率分布的均值（对应着整个分布的中心centre） scale：float     此概率...
融合高斯分布
Ronnie_Hu的博客
12-18 4836
（一）数据融合 假设两个传感器的测量结果分别为和，对应的标准差分别为和。 如何根据这两组数据得到最优估计？ 估计值取为两个传感器测量结果的线性组合，如下所示： 为了获得最优估计值，需要让估计后的方差最小。 将方差对求导数，并令其等于0，有： 解得： 所以，最优估计如下： （二）融合高斯分布 假设有如下两个高斯分布（即正态分布）： 则这两个高斯分布的概率密度函数的乘积为： 方便起见，令： 继续令： 那么，有： 可以看出，位于和之间，比和都
RL关键概念
csdnqixiaoxin的博客
11-18 2295
本文内容摘录自OpenAI的深度强化学习资源Spinning Up，进入网址。 智能体与环境 强化学习（RL）主要包括智能体（agent）和环境（environment）两部分。在智能体与环境交互的每一步，智能体获取（或部分获取）环境状态的一个观测（observation），并采取一个动作（action）。环境会在智能体作用于它的时候发生变化（或者自己变化）。 智能体会从环境中获得奖励（...
高斯分布-笔记(1)
shouhuxianjian的专栏
03-28 4527
1 -单变量高斯分布单变量高斯分布概率密度函数定义为： p(x)=12πσ−−−√exp{−12(x−μσ)2}(1.1)p(x)=\frac{1}{\sqrt{2\pi\sigma}}exp\{-\frac{1}{2}(\frac{x-\mu}{\sigma})^2\} \tag{1.1} 式中μ\mu为随机变量xx的期望，σ2\sigma^2为xx的方差，σ\sigma称为标准差：
【强化学习】你应该理解的一些关键概念
LiuZ的博客
01-30 1万+
强化学习是一种机器学习方法，用于指导agents如何通过反复试验来更好地完成任务，深度强化学习指的是传统的强化学习方法与深度学习（神经网络）相结合的产物。 OpenAI提供给我们很多有用的资源，包括： 对强化学习相关专业术语，各种算法以及基本理论的介绍 一些参与强化学习研究的建议 整理了相关主题的学术论文 齐全的代码库 一些供我们参考的实例 安装 openai提供的这套教程需要我们先安装pyt...
机器学习中的数学——常用概率分布（五）：高斯分布（Gaussian分布）/正态分布（Normal分布）
冯·诺依曼
10-03 2万+
实数上最常用的分布就是正态分布，也称为高斯分布： N(x∣μ,σ2)=12πσ2e−(x−μ)22σ2N(x|\mu,\sigma^2)=\sqrt{\frac{1}{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}N(x∣μ,σ2)=2πσ21​​e−2σ2(x−μ)2​ 其中： E[x]=μE[x]=\muE[x]=μ Var(x)=piσ2Var(x)=pi\sigma^2Var(x)=piσ2 正态分布由两个参数控制，μ∈R\mu\in Rμ∈R和σ
world 统计字数代码实现原理_强化学习随机策略之高斯似然数原理与代码实现
weixin_39621794的博客
11-27 90
强化学习随机策略之高斯似然数原理与代码实现一、原理介绍使用随机策略有两个关键点从策略当中进行采样，获得动作(Action)计算特定动作的似然数什么是多元高斯分布？在多元高斯分布中，当协方差矩阵只有在对角元素非零，而其余元素为 0 时，成为对角高斯分布。多元高斯分布（Multivariate Gaussian Distribution）是一元高斯分布的在向量形式上的推广，其中向量的均值为，协方差矩阵...
复高斯分布的数学基础理论.pdf
11-23
复高斯分布是数学和统计学中一个重要的理论模型，尤其在信号处理、无线通信以及物理学的多个领域中有着广泛的应用。复高斯分布可以看作是实高斯分布的一种推广，它能够描述复数域内的随机变量的分布特性。在介绍复...
python 高斯分布二维高斯分布代码
07-12
本代码为Python3.x，包括高斯分布及二维高斯分布代码，使用了numpy、scipy、matplotlib等包，适合初学者使用
Python画图高斯分布的示例
12-31
如下所示： import matplotlib.pyplot as plt import numpy as np import math def gaussian(sigma, x, u): y = np.exp(-(x - u) ** 2 / (2 * sigma ** 2)) / (sigma * math.sqrt(2 * math.pi)) ...
协方差矩阵与二维高斯分布
zfoox的摘记
12-22 4万+
多维高斯分布：f(x)=1(2π)d2|Σ|−12exp[−12(x−μ)TΣ−1(x−μ)] f(\mathbf x )= \frac{1}{{(2\pi)}^{\frac{d}{2}}{\begin{vmatrix}\mathbf\Sigma\end{vmatrix}}^{-\frac{1}{2}}}exp[-\frac{1}{2}(\mathbf x-\mu)^{T}\mathbf\Sigma
因子分析Factor analysis
思君苑
11-16 2923
简介：本文主要介绍EM算法求解因子分析： 在文章  EM算法 求解混合高斯模型时，通常假设拥有足够多的样本去构造这个混合高斯分布，即样本数量n要远大于样本维数d：  如果样本数量小于样本维数，那么协方差矩阵 是奇异矩阵,那么
协方差矩阵 多元高斯分布
吾生也有涯，而知也无涯
01-14 9197
协方差矩阵 对于一维随机变量直接用方差即可衡量随机变量x与其期望E(x)的偏离程度，对于多维随机变量X，需要用一个矩阵来表示偏离程度，矩阵的对角线是每个维度自己的方差，对角线以外表示不同的维度之间的协方差，所以协方差矩阵是实对称矩阵。 协方差矩阵的计算公式 所以有如下性质： 如果随机向量Y=PX，其中X，Y为随机向量，P为矩阵（方阵） 也就是 多元高斯分布 一元高斯分布概率密度函数如下： 多元高斯分布为： 具体推导过程可以参考：https://zhuanlan.zhi.
高斯分布
宁悦的博客
04-26 7099
高斯分布在整个机器学习中都频繁出现，比如，在一开始学习线性回归的时候，在涉及到他的概率解释的时候，假设噪声服从高斯分布。在高斯混合模型（GMM），高斯判别分析（LDA）等等中，都涉及到了高斯分布，所以这里结合CS229课程笔记和机器学习-白板推导（二）-数学基础来对高斯分布进行一个介绍。 一、一维高斯分布 一维高斯分布的概率密度函数如下： 下面是均值为0，方差为1的高斯分布图像： ...
【数学基础：概率论】3.随机变量与多维随机变量
尊新必威的博客
09-19 487
离散随机变量 0-1分布 二项分布 泊松分布 泊松分布描述的是稀有事件发生的概率（概率9讲）。 连续随机变量 分布函数 概率密度 均匀分布 指数分布 正态分布 随机变量函数的分布 多维随机变量 边缘分布和条件分布 独立性 ...
多维高斯分布与协方差矩阵的关系以及高斯椭圆
开贰锤
05-17 3万+
一维高斯分布概率密度函数 f(x;μ,σ)=1σ2π−−√exp(−(x−μ)22σ2)f(x;μ,σ)=1σ2πexp⁡(−(x−μ)22σ2) f(x;\mu,\sigma) = \frac{1}{\sigma \sqrt{2\pi}} \exp(-\frac{(x-\mu)^2}{2\sigma^2}) 若随机变量XXX服从这个高斯分布，则可写作X∼N(μ,σ)X∼N(μ,σ)X\si...
正态分布（Normal distribution）又名高斯分布（Gaussian distribution）
热门推荐
rns521的专栏
11-09 38万+
正态分布（Normal distribution）又名高斯分布（Gaussian distribution），是一个在数学、物理及工程等领域都非常重要的概率分布，在统计学的许多方面有着重大的影响力。 若随机变量X服从一个数学期望为μ、标准方差为σ2的高斯分布，记为： X∼N(μ,σ2), 则其概率密度函数为 正态分布的期望值μ决定了其位置，其标准差σ决定了分布的幅度
JavaScript实现高斯分布及其概率密度计算
正态分布有两个关键性质：对称性，即分布关于均值对称；以及集中趋势，大部分数据集中在均值附近，随着离均值距离的增加，数据出现的概率迅速下降。 在编程中，尤其是JavaScript，我们可以利用高斯分布的数学公式来...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值