概率论(三)随机变量的数字特征
基本概念
数学期望
离散型随机变量的数学期望
离散型随机变量 X X X的分布律为 P = { X = x k } = p k ( k = 1 , 2 , ⋯ ) , P=\{X=x_k\}=p_k(k = 1,2,\cdots), P={X=xk}=pk(k=1,2,⋯), 如果级数 ∑ k = 1 ∞ x k p k \sum_{k=1}^{\infty}x_kp_k ∑k=1∞xkpk绝对收敛,称此级数的和为 X X X的数学期望,记 E X = ∑ k = 1 ∞ x k p k . EX=\sum_{k=1}^{\infty}x_kp_k. EX=∑k=1∞xkpk.
连续型随机变量的数学期望
连续型随机变量 X X X的概率密度为 f ( x ) , f(x), f(x),若广义积分 ∫ − ∞ + ∞ x f ( x ) d x \int_{-\infty}^{+\infty}{xf(x)dx} ∫−∞+∞xf(x)dx绝对收敛,称 ∫ − ∞ + ∞ x f ( x ) d x \int_{-\infty}^{+\infty}{xf(x)dx} ∫−∞+∞xf(x)dx的值为 X X X的数学期望, 记 E X = ∫ − ∞ + ∞ x f ( x ) d x . EX=\int_{-\infty}^{+\infty}{xf(x)dx}. EX=∫−∞+∞xf(x)dx.
数学期望的性质
- 设 C C C为常数,则有 E ( C ) = C . E(C) = C. E(C)=C.
- 设 C C C为常数 , X ,X ,X为随机变量, 则有 E ( C X ) = C E ( X ) . E(CX ) = CE(X). E(CX)=CE(X).
- 设 X , Y X,Y X,Y为任意两个随机变量,则有 E ( X + Y ) = E ( X ) + E ( Y ) . E(X+Y) = E(X)+E(Y). E(X+Y)=E(X)+E(Y).
- 若 X , Y X,Y X,Y为相互独立的随机变量, 则有 E ( X Y ) = E ( X ) E ( Y ) . E(XY) = E(X)E(Y). E(XY)=E(X)E(Y).
随机变量函数的数学期望
设随机变量
Y
=
g
(
X
)
Y=g(X)
Y=g(X)是连续函数,当
X
X
X为离散型随机变量时,其分布律为
P
{
X
=
x
k
}
=
p
k
,
k
=
1
,
2
,
⋯
,
P\{ X = x_k\}=p_k,k = 1,2,\cdots,
P{X=xk}=pk,k=1,2,⋯,则
E
(
Y
)
=
E
(
g
(
X
)
)
=
∑
k
=
1
∞
g
(
x
k
)
p
k
.
E(Y)=E(g(X))=\sum_{k=1}^{\infty}g(x_k)p_k.
E(Y)=E(g(X))=k=1∑∞g(xk)pk.
当
X
X
X为连续型随机变量时,其密度函数为
f
(
x
)
,
f(x),
f(x),则
E
(
Y
)
=
E
(
g
(
X
)
)
=
∫
−
∞
+
∞
g
(
x
)
f
(
x
)
d
x
.
E(Y)=E(g(X))=\int_{-\infty}^{+\infty}{g(x)f(x)dx}.
E(Y)=E(g(X))=∫−∞+∞g(x)f(x)dx.
设随机变量
Z
=
g
(
x
,
y
)
Z=g(x,y)
Z=g(x,y)是连续函数,当离散型二维随机变量
(
X
,
Y
)
(X,Y)
(X,Y)的分布律为
P
=
{
X
=
x
i
,
Y
=
y
j
}
=
p
i
j
P=\{X=x_i,Y=y_j\}=p_{ij}
P={X=xi,Y=yj}=pij时,
E
Z
=
∑
i
∑
j
g
(
x
i
,
y
j
)
p
i
j
;
EZ=\sum_{i}\sum_{j}g(x_i,y_j)p_{ij};
EZ=i∑j∑g(xi,yj)pij;
当连续型二维随机变量
(
X
,
Y
)
(X,Y)
(X,Y)的概率密度为
f
(
x
,
y
)
f(x,y)
f(x,y)时,
E
(
Y
)
=
E
(
g
(
X
)
)
=
∫
−
∞
+
∞
∫
−
∞
+
∞
g
(
x
,
y
)
f
(
x
,
y
)
d
x
d
y
.
E(Y)=E(g(X))=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}{g(x,y)f(x,y)dxdy}.
E(Y)=E(g(X))=∫−∞+∞∫−∞+∞g(x,y)f(x,y)dxdy.
数学期望是反映平均取值的一个指标.
方差
方差的定义
设 X X X是一个随机变量,若 E { [ X — E ( X ) ] 2 } E\{[X —E( X )]^2 \} E{[X—E(X)]2}存在,则称 E { [ X — E ( X ) ] 2 } E\{[X —E( X )]^2 \} E{[X—E(X)]2}为 X X X的方差,记为$D( X) 或 或 或Var(X), 即 即 即D(X) = Var( X) = E{[X-E(X)]^2}.$
在应用上还引人量 D ( X ) \sqrt{D(X)} D(X),记为 σ ( X ) \sigma(X) σ(X),称为标准差或均方差.
方差计算公式
D X = E ( X 2 ) − ( E X ) 2 D X = E( X^ 2 ) - ( E X )^2 DX=E(X2)−(EX)2
方差的性质
-
设 C C C为常数,则 D ( C ) = 0. D(C) = 0. D(C)=0.
-
设 X 为随机变量, C 为常数, 则有 D ( C X ) = C 2 D ( X ) . D( C X ) = C^2 D( X ). D(CX)=C2D(X).
-
设随机变量 X 与 Y 相互独立, 则有 D ( X ± Y ) = D ( X ) + D ( Y ) ; D( X\pm Y)=D(X)+ D(Y); D(X±Y)=D(X)+D(Y);
-
D ( X ) = 0 D(X) = 0 D(X)=0的充要条件是X依概率1取常数EX, 即 P { X = E X } = 1. P\{ X = E X\} = 1. P{X=EX}=1.
重要分布的数学期望与方差
(0-1)分布
KaTeX parse error: No such environment: align* at position 8: \begin{̲a̲l̲i̲g̲n̲*̲}̲ &P\{X=1\}=p,P\…
二项分布 X ∼ B ( n , p ) X\sim B( n,p) X∼B(n,p)
E ( X ) = n p , D ( X ) = n p ( 1 — p ) . E(X)=np,D(X)=np(1—p). E(X)=np,D(X)=np(1—p).
泊松分布 X ∼ P ( λ ) X\sim P(\lambda) X∼P(λ)
E ( X ) = λ , D ( X ) = λ . E( X ) =\lambda,D( X)=\lambda. E(X)=λ,D(X)=λ.
均匀分布 X ∼ U ( a , b ) X\sim U( a,b ) X∼U(a,b)
E ( X ) = 1 2 ( a + b ) , D ( X ) = ( b − a ) 2 12 . E(X)={1\over2}(a+b),D(X)=\frac{(b-a)^2}{12}. E(X)=21(a+b),D(X)=12(b−a)2.
指数分布 X ∼ E ( λ ) X\sim E(\lambda) X∼E(λ)
E ( X ) = 1 λ , D ( X ) = 1 λ 2 E(X)={1\over \lambda},D(X)={1\over \lambda^2} E(X)=λ1,D(X)=λ21
几何分布 X ∼ G ( p ) X\sim G(p) X∼G(p)
E ( X ) = 1 p , D ( X ) = 1 − p p 2 E(X)={1\over p},D(X)={1-p\over p^2} E(X)=p1,D(X)=p21−p
正态分布 X ∼ N ( μ , σ 2 ) X\sim N(\mu,\sigma^2) X∼N(μ,σ2)
E ( X ) = μ , D ( X ) = σ 2 E(X)=\mu,D(X)=\sigma^2 E(X)=μ,D(X)=σ2
特例:标准正态分布
X
∼
N
(
0
,
1
)
X\sim N(0,1)
X∼N(0,1)
E
(
X
)
=
0
,
D
(
X
)
=
1.
E( X ) = 0, D(X) = 1.
E(X)=0,D(X)=1.
协方差及相关系数
协方差
对于二维随机变量 ( X , Y ) , C o v ( X , Y ) = E [ X − E ( X ) ] [ Y − E ( Y ) ] (X,Y),Cov(X,Y)=E[X-E(X)][Y-E(Y)] (X,Y),Cov(X,Y)=E[X−E(X)][Y−E(Y)]是其协方差,或用 C o v ( X , Y ) = E ( X Y ) − E X E Y Cov(X,Y)=E(XY)-EXEY Cov(X,Y)=E(XY)−EXEY表示.
其中
E
X
Y
=
{
∑
i
∑
j
g
(
x
i
,
y
j
)
P
{
X
=
x
i
,
Y
=
y
j
}
(
离
散
型
)
;
∫
−
∞
+
∞
∫
−
∞
+
∞
x
y
f
(
x
,
y
)
d
x
d
y
(
连
续
型
)
.
EXY= \begin{cases} \sum_{i}\sum_{j}g(x_i,y_j)P\{X=x_i,Y=y_j\}(离散型);\\ \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}{xyf(x,y)dxdy}(连续型). \end{cases}
EXY={∑i∑jg(xi,yj)P{X=xi,Y=yj}(离散型);∫−∞+∞∫−∞+∞xyf(x,y)dxdy(连续型).
协方差的性质
KaTeX parse error: No such environment: align* at position 8: \begin{̲a̲l̲i̲g̲n̲*̲}̲ &(1) Cov(X,X) …
相关系数
ρ X Y = C o v ( X . Y ) D ( X ) D ( Y ) ( D ( X ) > 0 , D ( Y ) > 0 ) . \rho_{XY}={Cov( X.Y)\over\sqrt{D(X)}\sqrt{D(Y)}}(D(X)>0,D(Y)>0). ρXY=D(X)D(Y)Cov(X.Y)(D(X)>0,D(Y)>0).
ρ
X
Y
=
0
\rho_{XY}= 0
ρXY=0时,X与Y是不相关的.
相关系数反映了两个随机变量的线性相关程度, 当其绝对值越接近 1 时
,
X
,X
,X与
Y
Y
Y的线性相关程度就越强,反之,越接近0时
,
X
,X
,X与
Y
Y
Y线性相关程度就越弱
相关系数的性质
(1)
0
≤
ρ
X
Y
≤
1
0\leq\rho_{XY}\leq 1
0≤ρXY≤1
(2)
∣
ρ
X
Y
∣
=
1
\mid\rho_{XY}\mid=1
∣ρXY∣=1的充分必要条件是存在不全为零的常数α和b,使得
P
(
Y
=
a
x
+
b
)
=
1.
P(Y=ax+b)=1.
P(Y=ax+b)=1.
随机变量的独立性与相关性
(1) 若随机变量X与Y 独立, 则X与Y—定不相关;但是若 X 与 Y 不相关, 则 X 与 Y 可能独立, 也可能不独立.
(2 ) 若随机变量 X 与 Y 的联合分布是二维正态分布, 则 X 与 Y 独立的充分必要条件是 X 与 Y 不相关.
矩 、 协方差矩阵(了解)
随机变量的矩
称 E ( X k ) E(X^k) E(Xk)为 X X X的 k k k阶原点矩.
称 E { [ X − E ( X ) ] k } E\{[X-E(X)]^k\} E{[X−E(X)]k}为 X , Y X,Y X,Y的 k k k阶中心矩
称 E ( X k Y l ) E(X^kY^l) E(XkYl)为 X , Y X,Y X,Y的 ( k + l ) (k+l) (k+l)阶混合原点矩
称 E { [ X − E ( X ) ] k [ Y − E ( Y ) ] l } E\{[X-E(X)]^k[Y-E(Y)]^l\} E{[X−E(X)]k[Y−E(Y)]l}为 X , Y X,Y X,Y的 ( k + l ) (k+l) (k+l)阶混合中心矩
数学期望E是X的一阶原点矩,方差DX是X的二阶中心矩,协方差 Cov(X,Y) 是 X 与 Y的混合二阶中心矩.
协方差矩阵
( X . Y ) 的 协 方 差 矩 阵 = Δ ( c 11 c 12 c 21 c 22 ) (X.Y)的协方差矩阵\frac{=}{^{\Delta}} \begin{pmatrix} c_{11} & c_{12} \\ c_{21}& c_{22}\\ \end{pmatrix} (X.Y)的协方差矩阵Δ=(c11c21c12c22)
其中
C
11
=
E
[
(
X
−
E
X
)
2
]
,
C
12
=
E
[
(
X
−
E
X
)
(
Y
−
E
Y
)
]
,
C
21
=
E
[
(
Y
−
E
Y
)
(
X
−
E
X
)
]
,
C
22
=
E
[
(
Y
−
E
Y
)
2
]
.
C_{11}=E[(X- EX)^2],\\ C_{12}= E[(X-EX)(Y-EY)],\\ C_{21}= E[(Y-EY)(X-EX)],\\ C_{22}= E[(Y-EY)^2].
C11=E[(X−EX)2],C12=E[(X−EX)(Y−EY)],C21=E[(Y−EY)(X−EX)],C22=E[(Y−EY)2].
n n n维正态随机变量具有以下四条重要性质:
(1) n n n维正态随机变量 ( X 1 , X 2 , ⋯ , X n ) (X_1,X_2,\cdots,X_n) (X1,X2,⋯,Xn)的每个分量 X i , i = 1 , 2 , ⋯ , n X_i,i=1,2,\cdots,n Xi,i=1,2,⋯,n都是正态随机变量; 反之,若 X 1 , X 2 , ⋯ , X n X_1,X_2,\cdots,X_n X1,X2,⋯,Xn都是正态随机变量, 且相互独立, 则 ( X 1 , X 2 , ⋯ , X n ) (X_1,X_2,\cdots,X_n) (X1,X2,⋯,Xn)是 n n n维正态随机变量.
(2) n n n维正态随机变量 ( X 1 , X 2 , ⋯ , X n ) (X_1,X_2,\cdots,X_n) (X1,X2,⋯,Xn)服从 n n n维正态分布的充要条件 X 1 , X 2 , ⋯ , X n X_1,X_2,\cdots,X_n X1,X2,⋯,Xn的任意线性组合 l 1 X 1 + l 2 X 2 + ⋯ + l n X n l_1X_1+l_2X_2+\cdots+l_nX_n l1X1+l2X2+⋯+lnXn服从1维正态分布(其中 l 1 , l 2 , ⋯ , l n l_1,l_2,\cdots,l_n l1,l2,⋯,ln不全为零)
(3) 若 ( X 1 , X 2 , ⋯ , X n ) (X_1,X_2,\cdots,X_n) (X1,X2,⋯,Xn)服从 n n n维正态分布,设 Y 1 , Y 2 , ⋯ , Y n Y_1,Y_2,\cdots,Y_n Y1,Y2,⋯,Yn是 X j ( j = 1 , 2 , ⋯ , n ) X_j(j=1,2,\cdots,n) Xj(j=1,2,⋯,n)的线性函数,则 ( Y 1 , Y 2 , ⋯ , Y n ) (Y_1,Y_2,\cdots,Y_n) (Y1,Y2,⋯,Yn)也服从多维正态分布.这一性质称为正态变量的线性变换不变性.
(4)设 ( X 1 , X 2 , ⋯ , X n ) (X_1,X_2,\cdots,X_n) (X1,X2,⋯,Xn)服从 n n n维正态分布,则" X 1 , X 2 , ⋯ , X n X_1,X_2,\cdots,X_n X1,X2,⋯,Xn相互独立"与" X 1 , X 2 , ⋯ , X n X_1,X_2,\cdots,X_n X1,X2,⋯,Xn两两不相关"是等价的.