每天五分钟机器学习：多元高斯分布中不同协方差矩阵的意义是什么

最新推荐文章于 2023-05-05 19:22:07 发布
最新推荐文章于 2023-05-05 19:22:07 发布
阅读量380 收藏 1
点赞数
分类专栏： 每天五分钟玩转机器学习算法 文章标签： 矩阵 人工智能 算法 线性代数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huanfeng_AI/article/details/128556228
版权
本文介绍了多元高斯分布在异常检测中的作用，重点关注协方差矩阵如何影响模型。通过五个示例展示了不同协方差矩阵如何改变特征的偏差和相关性，解释了为何多元高斯分布能学习到线性边界。
摘要由CSDN通过智能技术生成

本文重点

前面学习了多元高斯分布对异常检测算法的意义，本节课程我们直观的来看一下，多元高斯分布能为异常检测算法带来什么？

多元高斯分布

多元高斯分布主要是通过协方差矩阵来影响模型的，我们下面来看一下不同的协方差矩阵造成的影响是什么样的？

一

二

三

四

了解本专栏 订阅专栏 解锁全文
幻风_huanfeng
关注
专栏目录
订阅专栏
每天五分钟机器学习：高斯分布模型和多元高斯分布模型的比较
huanfeng_AI的博客
01-04 365
它计算量比较小，所以它可以计算大量特征的数据集，但是它不能捕捉到特征和特征之间的相关性，它可以通过将特征和特征进行组合的方式来解决，但是有些麻烦。
协方差矩阵 多元高斯分布
吾生也有涯，而知也无涯
01-14 9484
协方差矩阵 对于一维随机变量直接用方差即可衡量随机变量x与其期望E(x)的偏离程度，对于多维随机变量X，需要用一个矩阵来表示偏离程度，矩阵的对角线是每个维度自己的方差，对角线以外表示不同的维度之间的协方差，所以协方差矩阵是实对称矩阵。 协方差矩阵的计算公式 所以有如下性质： 如果随机向量Y=PX，其中X，Y为随机向量，P为矩阵（方阵） 也就是 多元高斯分布 一元高斯分布概率密度函数如下： 多元高斯分布为： 具体推导过程可以参考：https://zhuanlan.zhi.
协方差矩阵的几何解释和多重高斯分布
weixin_36600799的博客
04-25 4037
协方差矩阵的几何解释和多重高斯分布 这篇文章，总结之前阅读的这篇文章学到的知识点，即协方差矩阵的几何意义，同时利用几何解释，介绍多重高斯分布如何从标准单变量的高斯分布推导出来。主要涉及如下内容： 协方差矩阵的定义 协方差矩阵所体现的数据分布的几何意义 多重高斯分布的推导 协方差矩阵的定义 协方差矩阵一般出现在多重高斯分布的表达式中： (1)p(x;μ,Σ)=1(2π)n2∣Σ∣12exp(−...
协方差矩阵与二维高斯分布
zfoox的摘记
12-22 4万+
多维高斯分布：f(x)=1(2π)d2|Σ|−12exp[−12(x−μ)TΣ−1(x−μ)] f(\mathbf x )= \frac{1}{{(2\pi)}^{\frac{d}{2}}{\begin{vmatrix}\mathbf\Sigma\end{vmatrix}}^{-\frac{1}{2}}}exp[-\frac{1}{2}(\mathbf x-\mu)^{T}\mathbf\Sigma
多维高斯分布与协方差矩阵的关系以及高斯椭圆
开贰锤
05-17 3万+
一维高斯分布概率密度函数 f(x;μ,σ)=1σ2π−−√exp(−(x−μ)22σ2)f(x;μ,σ)=1σ2πexp⁡(−(x−μ)22σ2) f(x;\mu,\sigma) = \frac{1}{\sigma \sqrt{2\pi}} \exp(-\frac{(x-\mu)^2}{2\sigma^2}) 若随机变量XXX服从这个高斯分布，则可写作X∼N(μ,σ)X∼N(μ,σ)X\si...
【统计学习方法】多维高斯分布
idwtwt的专栏
12-25 1790
1 基本概念 1.2 方差与协方差 协方差就是衡量两个变量相关性的变量。当协方差为正时，两个变量呈正相关关系（同增同减）；当协方差为负时，两个变量呈负相关关系（一增一减）。 而协方差矩阵，只是将所有变量的协方差关系用矩阵的形式表现出来而已。通过矩阵这一工具，可以更方便地进行数学运算。 方差： 协方差： 1.2 协方差矩阵 根据方差的定义，给定d个随机变量，则这些随机...
白板机器学习笔记 P3-P8 高斯分布
LiPan的博客
02-19 435
视频地址： https://www.bilibili.com/video/BV1aE411o7qd?p=3 笔记地址：https://www.yuque.com/books/share/f4031f65-70c1-4909-ba01-c47c31398466/hu0291 P3 高斯分布1-极大似然估计 高斯分布： 本节内容：假设模型分布就是高斯分布，对高斯分布的均值和方差进行了极大似然估计。参数估计的前提是：样本符合独立同分布，也即每个样本都是独立地从一个高斯分布中进行采样的，所以训练集整体发生的.
协方差矩阵求解算法及高斯混合模型聚类_混合矩阵_limitedwxg_聚类算法_协方差矩阵_高斯混合模型_
10-02
在机器学习领域，数据聚类是一种无监督学习方法，用于将数据集中的对象根据它们的相似性或距离分组到不同的类别中。其中，高斯混合模型（Gaussian Mixture Model, GMM）是一种广泛应用的聚类算法，它基于概率模型...
机器学习中多维条件高斯分布和多维边缘高斯分布模型.pdf
09-24
"机器学习中多维条件高斯分布和多维边缘高斯分布模型" 该论文主要讨论了机器学习中多维条件高斯分布和多维边缘高斯分布模型的理论和应用。在机器学习中，高斯分布模型是最基本和最重要的模型之一，它广泛应用于推荐...
什么是协方差(covariance)？（延伸到 协方差矩阵、多元高斯分布、PCA）
子燕若水的博客
06-08 5万+
协方差是一个统计量，是对一个样本的某一统计特性给出的一个估算量。 常见统计量
协方差矩阵
m0_55196097的博客
05-05 1万+
对两个类内协方差矩阵进行对角化，可以将它们变换为对角矩阵。这个过程可以通过对每个协方差矩阵进行特征值分解来实现，从而得到它们的特征向量和特征值，进而得到它们的对角矩阵形式。这个过程的意义在于，它可以帮助我们找到一个新的坐标系，使得在这个坐标系下，每个特征之间都是独立的，从而简化了计算。具体来说，当我们使用对角协方差矩阵作为特征向量的坐标系时，它意味着每个特征之间都是相互独立的，从而方便了进一步的分析和处理。在实际应用中，对角化协方差矩阵可以用于降维、特征选择和分类等任务。
协方差矩阵学习心得
Mike_69的博客
02-12 2363
协方差矩阵的物理意义主要分为对角阵和非对角阵来记录。 1.基础知识 一维数据中： 方差：描述数据的偏离程度，数值越大偏离越大 标准差：描述数据的聚散程度。数值越大散度越大，除以 N-1 二位数据中： 协方差：描述两个随机变量之间的相关性，随着X变大Y变大则为正相关，否则为负相关。cov=0则不相关。由此可知，xy独立一定不相关，但是xy不相关，不一定独立。在高斯过程中，不相关和独立是等价的，因此高斯情况下不相关的xy独立，可以将联合分布分开乘。 协方差矩阵中的每个量都是相同样本下不
多元高斯分布的协方差矩阵与信息矩阵
sky的博客
07-09 8900
零均值的多元高斯分布有如下概率形式： 其中是协方差矩阵，协方差矩阵的逆可以记作，也叫信息矩阵。当变量xx是三维变量时，协方差矩阵为： 其中 其实在应用中，往往我们直接操作的是信息矩阵，而不是协方差矩阵。下面从一个例子来体会一下协方差矩阵与信息矩阵。 example 假设为室外的温度，分别是房间1与房间3的室内温度： 其中，为相互独立，且各自服从协方差为的高斯分布。根据上面它们之间的联系，我们可以求出的协方差矩阵，首先： 然后同理，可以求出另外两个对角元素为。而对于协方差矩阵
机器学习_正态分布下的贝叶斯分类器
m0_38034312的博客
10-31 5285
【1】贝叶斯分类器请看链接。原理就是P(ab):
多元高斯分布（Multivariate Gaussian Distribution）（详细说明，便于理解）
我不爱机器学习的博客
01-15 2万+
在深入了解多元高斯分布前，可以先了解一下一元高斯分布。 接下来对多元高斯分布进行详细的说明与推导。 对于 维的向量（连续变量），多变量（多元， multivariate Gaussian）高斯分布形式为： 式中的是 维的均值向量，是的协方差矩阵（covariance matrix），是的行列式（determinan...
如何直观地理解「协方差矩阵」？
kyle1314608的博客
02-21 1706
如何直观地理解「协方差矩阵」？Xinyu ChenUrban Traffic Data Analytics372 人赞同了该文章协方差矩阵在统计学和机器学习中随处可见，一般而言，可视作方差和协方差两部分组成，即方差构成了对角线上的元素，协方差构成了非对角线上的元素。本文旨在从几何角度介绍我们所熟知的协方差矩阵。文章结构方差和协方差的定义从方差/协方差到协方差矩阵多元正态分布与线性变换协方差矩阵的特...
数值分析Matlab二维正态(高斯)分布以及协方差矩阵
Zhang Phil
12-14 2万+
数值分析Matlab二维正态(高斯)分布以及协方差矩阵主要是使用了matlab的mvnrnd产生随机的正态（高斯）分布二维矩阵，然后绘制出来。代码运行结果生成的正态分布实验数据如图：MATLAB代码：mu1 = [0 0]; sigma1 = [4 2 ; 2 4]; r1 = mvnrnd(mu1,sigma1,100); scatter(r1(:,1),r1(:,2),'r.'); hold
正态分布（Normal distribution）又名高斯分布（Gaussian distribution）
热门推荐
rns521的专栏
11-09 39万+
正态分布（Normal distribution）又名高斯分布（Gaussian distribution），是一个在数学、物理及工程等领域都非常重要的概率分布，在统计学的许多方面有着重大的影响力。 若随机变量X服从一个数学期望为μ、标准方差为σ2的高斯分布，记为： X∼N(μ,σ2), 则其概率密度函数为 正态分布的期望值μ决定了其位置，其标准差σ决定了分布的幅度
机器学习 高斯分布 协方差矩阵
最新发布
06-02
好的，您的第一个问题是关于机器学习中的高斯分布和协方差矩阵的。高斯分布，也叫正态分布，是一种常见的概率分布，它的概率密度函数呈钟形曲线，具有一个均值和一个方差。在机器学习中，高斯分布常常被用来对数据分布进行建模。而协方差矩阵则是描述多维数据之间相关性的一种矩阵，它的每个元素表示两个随机变量之间的协方差。协方差矩阵的特征值和特征向量可以用来进行数据降维和特征提取。希望这个回答能够帮助到您！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

幻风_huanfeng

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值