概率论知识回顾（十九）
重点：随机变量的距
知识回顾用于巩固知识和查漏补缺。知识回顾步骤：
- 查看知识回顾中的问题，尝试自己解答
- 自己解答不出来的可以查看下面的知识解答巩固知识。
- 对知识解答有疑问的，说明有关这一点的知识或者公式没有理解透彻或者没有记住，要重新翻看书籍。
知识回顾
- 什么是一维随机变量的k阶距？如何进行求解？
- 什么是一维随机变量的k阶中心距，如何进行求解？
- 什么是多维随机变量的混合距？
- 什么是多维随机变量的混合中心距？
- 什么是多维随机变量的协方差矩阵?
知识解答
-
什么是一维随机变量的k阶距？如何进行求解？
- 对于随机变量 X 来说，如果对于一个正整数 k , E ( ∣ X ∣ k ) E(|X|^k) E(∣X∣k) 存在，那么就说 μ k = E ( X k ) \mu_k=E(X^k) μk=E(Xk) 为随机变量的 k 阶距。
- 对于 μ 1 \mu_1 μ1 我们并不陌生，它就是之前我们讨论的期望。同时对于 μ 2 \mu_2 μ2 我们应该也不陌生，在求解方差的时候，即 D ( X ) = E ( X 2 ) − [ E ( X ) ] 2 = μ 2 − μ 1 2 D(X) = E(X^2) - [E(X)]^2 = \mu_2 - \mu_1^2 D(X)=E(X2)−[E(X)]2=μ2−μ12
- 求解 μ k = E ( X k ) = { ∑ i = 1 + ∞ x i k p i X 为 离 散 随 机 变 量 ∫ − ∞ + ∞ x k f ( x ) d x X 为 连 续 随 机 变 量 ∫ − ∞ + ∞ x k d F ( x ) 通 用 情 况 \mu_k = E(X^k) = \begin{cases} \sum_{i=1}^{+\infty}x_i^kp_i & X为离散随机变量 \\ \int_{-\infty}^{+\infty}x^kf(x)dx & X为连续随机变量 \\ \int_{-\infty}^{+\infty}x^kdF(x) & 通用情况 \end{cases} μk=E(Xk)=⎩⎪⎨⎪⎧∑i=1+∞xikpi∫−∞+∞xkf(x)dx∫−∞+∞xkdF(x)X为离散随机变量X为连续随机变量通用情况
-
什么是一维随机变量的k阶中心距，如何进行求解？k阶距和k阶中心距有什么关系？
-
对随机变量 X 来说，如果对于一个正整数 k, E ( ∣ X − E ( X ) ∣ k ) E(|X - E(X)|^k) E(∣X−E(X)∣k) 存在，那么就说 C k = E [ X − E ( X ) ] k C_k = E[X-E(X)]^k Ck=E[X−E(X)]k 为X的k阶中心距。
-
当然 C 2 C_2 C2 也就是我们说的方差。
-
它的求解方式和k阶距的求解方式类似，即把 x k x^k xk 替换成 ( x − E X ) k (x-EX)^k (x−EX)k 即可
-
对于k阶距来说，这里的 EX=0, 因此也称为k阶原点距。
-
另外：任何的 k 阶中心距都可以用 k 阶距来进行表示。
C k = E ( X − μ 1 ) k = E [ ∑ i = 0 k C k i X i ( − μ 1 ) k − i ] = ∑ i = 0 k C k i ( − μ 1 ) k − i E ( X i ) = ∑ i = 0 k C k i ( − μ 1 ) k − i μ i \begin{aligned}C_k &= E(X-\mu_1)^k = E[\sum_{i=0}^kC_k^iX^i(-\mu_1)^{k-i}] \\&=\sum_{i=0}^{k}C_k^i(-\mu_1)^{k-i}E(X^i) = \sum_{i=0}^{k}C_k^i(-\mu_1)^{k-i}\mu_i\end{aligned} Ck=E(X−μ1)k=E[i=0∑kCkiXi(−μ1)k−i]=i=0∑kCki(−μ1)k−iE(Xi)=i=0∑kCki(−μ1)k−iμi
-
-
什么是多维随机变量的混合距？
- 对于随机变量X,Y，称 E ( X k Y l ) E(X^kY^l) E(XkYl) 为 X 和 Y 的 k+l阶 混合距。
- 同理，对于n个正整数 k 1 , k 2 , . . . , k n k_1, k_2, ..., k_n k1,k2,...,kn, 若 E ( ∣ X 1 k 1 X 2 k 2 ⋯ X n k n ∣ ) E(|X_1^{k_1}X_2^{k_2}\cdots X_n^{k_n}|) E(∣X1k1X2k2⋯Xnkn∣) 存在，则称 E ( X 1 k 1 X 2 k 2 ⋯ X n k n ) E(X_1^{k_1}X_2^{k_2}\cdots X_n^{k_n}) E(X1k1X2k2⋯Xnkn) 为 X = ( X 1 , X 2 , . . . , X n ) X = (X_1, X_2, ..., X_n) X=(X1,X2,...,Xn) 的 k 1 + k 2 + ⋯ + k n k_1+k_2+\cdots+k_n k1+k2+⋯+kn 阶混合距。
-
什么是多维随机变量的混合中心距？
- 对于随机变量X,Y，称 E ( ( X − E X ) k ( Y − E Y ) l ) E((X-EX)^k(Y-EY)^l) E((X−EX)k(Y−EY)l) 为 X 和 Y 的 k+l阶 混合中心距。
- 可以看到，当 k=l=1 的时候，就是X和Y的协方差。
- 同理，对于n个正整数 k 1 , k 2 , . . . , k n k_1, k_2, ..., k_n k1,k2,...,kn, 若 E ( ∣ ( X 1 − E X 1 ) k 1 ( X 2 − E X 2 ) k 2 ⋯ ( X n − E X n ) k n ∣ ) E(|(X_1-EX_1)^{k_1}(X_2-EX_2)^{k_2}\cdots (X_n-EX_n)^{k_n}|) E(∣(X1−EX1)k1(X2−EX2)k2⋯(Xn−EXn)kn∣) 存在，则称 E ( ( X 1 − E X 1 ) k 1 ( X 2 − E X 2 ) k 2 ⋯ ( X n − E X n ) k n ) E((X_1-EX_1)^{k_1}(X_2-EX_2)^{k_2}\cdots (X_n-EX_n)^{k_n}) E((X1−EX1)k1(X2−EX2)k2⋯(Xn−EXn)kn) 为 X = ( X 1 , X 2 , . . . , X n ) X = (X_1, X_2, ..., X_n) X=(X1,X2,...,Xn) 的 k 1 + k 2 + ⋯ + k n k_1+k_2+\cdots+k_n k1+k2+⋯+kn 阶混合中心距。
-
什么是多维随机变量的协方差矩阵?
- 对于多维随机变量 X = ( X 1 , X 2 , . . . , X n ) X = (X_1, X_2, ...,X_n) X=(X1,X2,...,Xn)来说， 它的期望是 E X = ( E X 1 , E X 2 , . . . , E X n ) EX = (EX_1, EX_2,...,EX_n) EX=(EX1,EX2,...,EXn)
- 同理，将其看做为一个n维的向量，它的方差的求法也和普通一维随机变量方差求法有一些细微差别，即 D ( X ) = E ( ( X − E X ) T ( X − E X ) ) = [ X 1 − E X 1 X 2 − E X 2 ⋮ X n − E X n ] ⋅ [ X 1 − E X 1 X 2 − E X 2 ⋯ X n − E X n ] = [ ( X 1 − E X 1 ) ( X 1 − E X 1 ) ( X 1 − E X 1 ) ( X 2 − E X 2 ) ⋯ ( X 1 − E X 1 ) ( X n − E X n ) ( X 2 − E X 2 ) ( X 1 − E X 1 ) ( X 2 − E X 2 ) ( X 2 − E X 2 ) ⋯ ( X 2 − E X 2 ) ( X n − E X n ) ⋯ ⋯ ⋯ ⋯ ( X n − E X n ) ( X 1 − E X 1 ) ( X n − E X n ) ( X 2 − E X 2 ) ⋯ ( X n − E X n ) ( X n − E X n ) ] = [ D ( X 1 ) C o v ( X 1 , X 2 ) ⋯ C o v ( X 1 , X n ) C o v ( X 2 , X 1 ) D ( X 2 ) ⋯ C o v ( X 2 , X n ) ⋯ ⋯ ⋯ ⋯ C o v ( X n , X 1 ) C o v ( X n , X 2 ) ⋯ D ( X n ) ] = [ b 11 b 12 ⋯ b 1 n b 21 b 22 ⋯ b 2 n ⋯ ⋯ ⋯ ⋯ b n 1 b n 2 ⋯ b n n ] \begin{aligned}D(X) = E((X-EX)^T(X-EX)) &= \begin{bmatrix}X_1-EX_1 \\ X_2 - EX_2 \\ \vdots \\ X_n-EX_n \end{bmatrix} · \begin{bmatrix} X_1-EX_1 & X_2-EX_2 & \cdots & X_n-EX_n \end{bmatrix} \\&= \begin{bmatrix} (X_1-EX_1)(X_1-EX_1) & (X_1-EX_1)(X_2-EX_2) & \cdots & (X_1-EX_1)(X_n-EX_n) \\ (X_2-EX_2)(X_1-EX_1) & (X_2-EX_2)(X_2-EX_2) & \cdots & (X_2-EX_2)(X_n-EX_n) \\ \cdots & \cdots & \cdots & \cdots \\ (X_n-EX_n)(X_1-EX_1) & (X_n-EX_n)(X_2-EX_2) & \cdots & (X_n-EX_n)(X_n-EX_n) \end{bmatrix} \\&=\begin{bmatrix} D(X_1) & Cov(X_1,X_2) & \cdots & Cov(X_1,X_n) \\ Cov(X_2,X_1) & D(X_2) & \cdots & Cov(X_2,X_n) \\ \cdots & \cdots & \cdots & \cdots \\ Cov(X_n,X_1) & Cov(X_n,X_2) & \cdots & D(X_n) \end{bmatrix} = \begin{bmatrix} b_{11} & b_{12} & \cdots & b_{1n} \\ b_{21} & b_{22} & \cdots & b_{2n} \\ \cdots & \cdots & \cdots & \cdots \\ b_{n1} & b_{n2} & \cdots & b_{nn} \end{bmatrix} \end{aligned} D(X)=E((X−EX)T(X−EX))=⎣⎢⎢⎢⎡X1−EX1X2−EX2⋮Xn−EXn⎦⎥⎥⎥⎤⋅[X1−EX1X2−EX2⋯Xn−EXn]=⎣⎢⎢⎡(X1−EX1)(X1−EX1)(X2−EX2)(X1−EX1)⋯(Xn−EXn)(X1−EX1)(X1−EX1)(X2−EX2)(X2−EX2)(X2−EX2)⋯(Xn−EXn)(X2−EX2)⋯⋯⋯⋯(X1−EX1)(Xn−EXn)(X2−EX2)(Xn−EXn)⋯(Xn−EXn)(Xn−EXn)⎦⎥⎥⎤=⎣⎢⎢⎡D(X1)Cov(X2,X1)⋯Cov(Xn,X1)Cov(X1,X2)D(X2)⋯Cov(Xn,X2)⋯⋯⋯⋯Cov(X1,Xn)Cov(X2,Xn)⋯D(Xn)⎦⎥⎥⎤=⎣⎢⎢⎡b11b21⋯bn1b12b22⋯bn2⋯⋯⋯⋯b1nb2n⋯bnn⎦⎥⎥⎤
- 上面推导出的矩阵即称为 X = ( X 1 , X 2 , . . . , X n ) X = (X_1, X_2, ..., X_n) X=(X1,X2,...,Xn) 的协方差矩阵。
- 对于上面的矩阵可以知道
- b i i = D ( X i ) b_{ii} = D(X_i) bii=D(Xi)
- b i j = b j i b_{ij} = b_{ji} bij=bji
- b i j 2 ≤ b i i b j j b_{ij}^2 \le b_{ii}b_{jj} bij2≤biibjj
- 矩阵是非负定的，对任意实数 t 1 , t 2 , . . . , t n t_1, t_2, ..., t_n t1,t2,...,tn 有 ∑ i = 1 n ∑ j = 1 n b i j t i t j ≥ 0 \sum_{i=1}^n\sum_{j=1}^nb_{ij}t_it_j \ge 0 i=1∑nj=1∑nbijtitj≥0 即 t B t T ≥ 0 tBt^T \ge 0 tBtT≥0
1910
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
