机器学习-联合概率分布笔记

1.什么是联合概率分布？

  联合概率分布简称联合分布，是两个及以上随机变量组成的随机向量的概率分布。根据随机变量的不同，联合概率分布的表示形式也不同。对于离散型随机变量，联合概率分布可以以列表的形式表示，也可以以函数的形式表示；对于连续型随机变量，联合概率分布通过一非负函数的积分表示。

2. 举例说明联合概率分布

打靶时命中的坐标（x，y）的概率分布就是联合概率分布（涉及两个随机变量），其他同样类比

3.离散型联合概率分布

以下摘自百度百科：

对于二维离散随机向量，设X和Y都是 离散型随机变量，

和

分别是X和Y的一切可能的几何，则X和Y的联合概率分布可以表示为如下图的列联表，也可以表示为如下的函数形式

其中

变量X和Y的联合分布完全决定X的概率分布和Y的概率分布（称作 联合分布的边缘分布）：

对于多维（维数大于等于3）离散型随机变量

的联合概率分布以此类推。

题目详解：

假设X和Y都是离散型分布

　　先看X的概率分布：
　　X      0        1
　　p     0.4     0.6

　　再看Y的概率分布：
　　Y     0          1      2
　　p    0.25    0.5    0.25

　　又因为X与Y相互独立，所以（X,Y）的联合概率分布为：
　　X\Y      0         1          2
        0       0.1      0.2       0.1
        1      0.15     0.3      0.15

    P(X＜Y)=P(X=0，Y=1)+P(X=0，Y=2)+P(X=1，Y=2)=0.2+0.1+0.15=0.45

4.连续型联合概率分布

对于二维连续随机向量，设X和Y为 连续型随机变量，其联合概率分布，或连续型随机变量

的概率分布

通过一非负函数

的积分表示，称函数

为 联合概率密度函数。 ^[3]  

两者的关系如下：

不但完全决定X和Y的联合概率分布，而且完全决定X的概率分布和Y的概率分布，以

和

分别表示X和Y的概率密度，则

对于多维（维数大于等于3）连续型随机变量

的联合概率分布以此类推。