离散分布的分布函数_初等概率论(4) 条件分布

一、离散、连续随机向量的条件分布

1.1 Def 离散联合概率质量函数、条件概率质量函数、边缘概率质量函数

设

上离散随机向量

. (既

为可数集)：

(1) 服从的概率质量函数为

，称为离散随机向量

的

联合概率质量函数(joint). (2) 定义

为

在联合分布下的的

边缘概率质量函数(marginal). 可进一步求和得到 边缘累积分布

.

(3) 定义

, 自变量为

:

,

称

为

对

的

条件概率质量函数(conditional). 既

.

1.2 Def 离散：条件累积分布函数

定义

, 自变量为

:

,

称为

对

的条件概率质量函数.

注意:

意味着进累加给定

时有定义的

.

1.3 Def 连续联合概率质量函数、条件概率质量函数、边缘概率质量函数

设

上连续随机向量

(1)

服从的概率质量函数为

，称为离散随机向量

的

联合概率密度函数(joint). (2) 定义

为

在联合分布下的的

边缘概率质量函数(marginal). 可进一步积分得到 边缘累积分布

.

(3) 定义

, 自变量为

:

称

为

对

的

条件概率质量函数(conditional). 既

.

1.4 Def 离散：条件累积分布函数

定义

, 自变量为

:

,

称为

对

的条件概率质量函数.

(

为多元意义; cpdf积分后分子分母同阶，可作为概率)

二、简单条件期望

2.1 Def 单点条件期望

(1) 离散: 设

为离散随机向量，其

对

的条件概率质量函数为

. 设

为任意函数.

定义

, 若存在.

(2) 离散: 设

为连续随机向量，其

对

的条件概率密度函数为

. 设

为任意函数.

定义

, 若存在.

2.2 Def 简单条件期望

当

不在固定, 则

也变为随机变量.

注意，之所以称为简单条件期望，因为更一般的条件期望以

代数为条件，其中以随机变量为条件是一种特殊情况:

2.3 Def-Ex 条件方差

定义随机变量

, 称为条件方差.

显然，与无条件的情况一样

2.4 Prop 条件期望性质

条件期望与无条件期望一样，满足线性性以及各类不等式性质.

2.5 Thm Law of Iterated Expectation

, 既叠层期望等价于以最粗糙条件的条件期望.

原理: 仅展示连续情况:

2.6 Corrollary 条件期望与条件方差

三、独立性、协方差

3.1 Def 两随机向量独立

(1) 设随机向量

.

若

与

独立,即

, 有

(2) 注意:

各自作为随机向量，其内部随机分量之间可以不独立.

内部分量间可以两两独立(pairwise)也可以mutually independent:

3.2 Thm 独立随机向量的性质

(1)

(2)

(3)

(4)

未完待续