概率论与数理统计-第二部分
4 一维随机变量
4.1 分布函数
4.1.1 定义与充要条件
定义:
F X ( x ) = P { X ⩽ x } , x ∈ R F_{_{X}}(x)=P\{X\leqslant x\}\ ,x\in\mathbb{R} FX(x)=P{X⩽x} ,x∈R
充要条件:
同时满足:
-
值域有界: 0 = F ( − ∞ ) ⩽ F ( x ) ⩽ F ( + ∞ ) = 1 0=F(-\infty)\leqslant F(x) \leqslant F(+\infty)=1 0=F(−∞)⩽F(x)⩽F(+∞)=1
-
单调不减: ∀ x 1 < x 2 : F ( x 1 ) ⩽ F ( x 2 ) \forall x_1<x_2:F(x_1)\leqslant F(x_2) ∀x1<x2:F(x1)⩽F(x2)
-
右连续性: F ( x ) = F ( x + 0 ) F(x)=F(x+0) F(x)=F(x+0)
4.1.2 概率计算
∀ x ∈ R : P { X = x 0 } = F ( x 0 ) − F ( x 0 − 0 ) = F ∈ C ( U ( x 0 , δ ) ) 0 \forall x\in\mathbb{R}:P\{X=x_0\}=F(x_0)-F(x_0-0)\xlongequal{F\in C(U(x_0,\delta))}0 ∀x∈R:P{X=x0}=F(x0)−F(x0−0)F∈C(U(x0,δ))0
∀ x 1 < x 2 : P { x 1 < X ⩽ x 2 } = P { X ⩽ x 2 } − P { X ⩽ x 1 } = F ( x 2 ) − F ( x 1 ) \forall x_1<x_2:P\{x_1<X\leqslant x_2\}=P\{X\leqslant x_2\}-P\{X\leqslant x_1\}=F(x_2)-F(x_1) ∀x1<x2:P{x1<X⩽x2}=P{X⩽x2}−P{X⩽x1}=F(x2)−F(x1)
4.1.3 分布函数判别
-
F ( a x + b ) : a > 0 F(ax+b):a>0 F(ax+b):a>0 仍为分布函数, a < 0 a<0 a<0 非分布函数.
-
a 1 F ( x ) + a 2 F ( x ) , a 1 + a 2 = 1 , a i ⩾ 0 a_1F(x)+a_2F(x),a_1+a_2=1,a_i\geqslant 0 a1F(x)+a2F(x),a1+a2=1,ai⩾0 仍为分布函数.
-
F 1 ( x ) F 2 ( x ) , 1 − [ 1 − F 1 ( x ) ] [ 1 − F 2 ( x ) ] F_1(x)F_2(x)\ ,\ 1-[1-F_1(x)][1-F_2(x)] F1(x)F2(x) , 1−[1−F1(x)][1−F2(x)] 仍为分布函数.
4.1.4 最值函数
最大值:
F
Z
(
z
)
=
P
{
max
(
X
,
Y
)
⩽
z
}
=
P
{
X
⩽
z
,
Y
⩽
z
}
=
X
,
Y
互独
P
{
X
⩽
z
}
P
{
Y
⩽
z
}
=
F
X
(
z
)
F
Y
(
z
)
=
X
,
Y
同分布
[
F
X
(
z
)
]
2
\begin{aligned} F_{_Z}(z)&=P\{\max(X,Y)\leqslant z\}=P\{X\leqslant z,Y\leqslant z\} \\&\xlongequal{X,Y互独}P\{X\leqslant z\}P\{Y\leqslant z\} =F_{_X}(z)F_{_Y}(z) \\&\xlongequal{X,Y同分布}[F_{_X}(z)]^2 \end{aligned}
FZ(z)=P{max(X,Y)⩽z}=P{X⩽z,Y⩽z}X,Y互独P{X⩽z}P{Y⩽z}=FX(z)FY(z)X,Y同分布[FX(z)]2
U = max { X 1 , X 2 , ⋯ , X n } , F U ( x ) = X i 独立同分布 [ F X ( x ) ] n U=\max\{X_1,X_2,\cdots,X_n\}\ ,\ F_{_U}(x)\xlongequal{X_i独立同分布}[F_{_X}(x)]^n U=max{X1,X2,⋯,Xn} , FU(x)Xi独立同分布[FX(x)]n
最小值:
F
Z
(
z
)
=
P
{
min
(
X
,
Y
)
⩽
z
}
=
P
{
(
X
⩽
z
)
∪
(
Y
⩽
z
)
}
=
X
,
Y
互独
P
{
X
⩽
z
}
+
P
{
Y
⩽
z
}
−
P
{
X
⩽
z
,
Y
⩽
z
}
=
F
X
(
z
)
+
F
Y
(
z
)
−
F
(
z
,
z
)
=
X
,
Y
互独
F
X
(
z
)
+
F
Y
(
z
)
−
F
X
(
z
)
F
Y
(
z
)
\begin{aligned} F_Z(z)&=P\{\min(X,Y)\leqslant z\}=P\{(X\leqslant z)\cup (Y\leqslant z)\} \\&\xlongequal{X,Y互独}P\{X\leqslant z\}+P\{Y\leqslant z\}-P\{X\leqslant z,Y\leqslant z\} \\&=F_X(z)+F_Y(z)-F(z,z) \\&\xlongequal{X,Y互独}F_X(z)+F_Y(z)-F_X(z)F_Y(z) \end{aligned}
FZ(z)=P{min(X,Y)⩽z}=P{(X⩽z)∪(Y⩽z)}X,Y互独P{X⩽z}+P{Y⩽z}−P{X⩽z,Y⩽z}=FX(z)+FY(z)−F(z,z)X,Y互独FX(z)+FY(z)−FX(z)FY(z)
F Z ( z ) = P { min ( X , Y ) ⩽ z } = 1 − P { X > z , Y > z } = X , Y 互独 1 − P { X > z } P { Y > z } = 1 − [ 1 − F X ( z ) ] [ 1 − F Y ( z ) ] = X , Y 互独 1 − [ 1 − F X ( z ) ] 2 \begin{aligned} F_{_Z}(z)&=P\{\min(X,Y)\leqslant z\}=1-P\{X>z,Y>z\} \\&\xlongequal{X,Y互独}1-P\{X>z\}P\{Y>z\} \\&=1-[1-F_{_X}(z)][1-F_{_Y}(z)]\xlongequal{X,Y互独}1-[1-F_{_X}(z)]^2 \end{aligned} FZ(z)=P{min(X,Y)⩽z}=1−P{X>z,Y>z}X,Y互独1−P{X>z}P{Y>z}=1−[1−FX(z)][1−FY(z)]X,Y互独1−[1−FX(z)]2
V = max { X 1 , X 2 , ⋯ , X n } , F V ( x ) = X i : I . I . D . 1 − [ 1 − F X ( x ) ] n V=\max\{X_1,X_2,\cdots,X_n\}\ ,F_{_V}(x)\xlongequal{X_i:\ I.I.D.}1-[1-F_{_X}(x)]^n V=max{X1,X2,⋯,Xn} ,FV(x)Xi: I.I.D.1−[1−FX(x)]n
4.2 随机变量
4.2.1 离散型
4.2.1.1 分布律及充要条件
X ∼ P { X = x i } = p i ( i ∈ N + ) ⇔ { p i ⩾ 0 ∑ i = 1 ∞ p i = 1 X\sim P\{X=x_i\}=p_i\ (i\in\mathbb{N}^+) \Leftrightarrow \left\{\begin{array}{l} p_i\geqslant 0\\ \\ \sum\limits_{i=1}^{\infty}p_i=1\\ \end{array}\right. X∼P{X=xi}=pi (i∈N+)⇔⎩ ⎨ ⎧pi⩾0i=1∑∞pi=1
二者分别称:非负性、正则性(规范性)
4.2.1.2 分布函数
F ( x ) = P { X ⩽ x } = ∑ x i ⩽ x P { X = x i } F(x)=P\{X\leqslant x\}=\sum_{x_i\leqslant x}P\{X=x_i\} F(x)=P{X⩽x}=xi⩽x∑P{X=xi}
4.2.2 连续型
4.2.2.1 概率密度
充要条件:
X
∼
f
X
(
x
)
⇔
{
f
(
x
)
⩾
0
∫
−
∞
+
∞
f
(
x
)
d
x
=
1
X\sim f_{_X}(x) \Leftrightarrow \left\{\begin{array}{l} f(x) \geqslant 0\\\\ \int_{-\infty}^{+\infty}f(x)\mathrm{d}x=1\\ \end{array}\right.
X∼fX(x)⇔⎩
⎨
⎧f(x)⩾0∫−∞+∞f(x)dx=1
性质:
-
∀ x 1 < x 2 , P { x 1 < X ⩽ x 2 } = F ( x 2 ) − F ( x 1 ) = ∫ x 1 x 2 f ( t ) d t \displaystyle \forall x_1<x_2\ ,P\{x_1<X\leqslant x_2\}=F(x_2)-F(x_1)=\int_{x_1}^{x_2}f(t)\mathrm{d}t ∀x1<x2 ,P{x1<X⩽x2}=F(x2)−F(x1)=∫x1x2f(t)dt
-
有限个点不影响区间面积,即概率,故
(1) P { X = x 0 } = F ( x 0 ) − F ( x 0 − 0 ) = F 在 x 0 处连续 0 P\{X=x_0\}=F(x_0)-F(x_0-0)\xlongequal{F在x_0处连续} 0 P{X=x0}=F(x0)−F(x0−0)F在x0处连续0
(2) P { a < X < b } = P { a ⩽ x ⩽ b } = P { a < x ⩽ b } = P { a ⩽ x < b } P\{a<X<b\}=P\{a\leqslant x\leqslant b\}=P\{a<x\leqslant b\}=P\{a\leqslant x<b\} P{a<X<b}=P{a⩽x⩽b}=P{a<x⩽b}=P{a⩽x<b} -
f ( x ) f(x) f(x) 在 x x x 处连续,则 F ′ ( x ) = f ( x ) F'(x)=f(x) F′(x)=f(x)
-
(1) F ( x ) F(x) F(x) 必连续, f ( x ) f(x) f(x) 未必(函数连续可积性质)
(2) F ( x ) F(x) F(x) 不连续则非连续型,无概率密度.
例如: F ( x ) = { 0 , x < 0 x / 2 , 0 ⩽ x < 1 1 , x ⩾ 1 , P { X = 1 } = F ( 1 ) − F ( 1 − 0 ) = 1 2 \displaystyle F(x)=\left\{ \begin{array}{l}0\quad,x<0\\ x/2,0\leqslant x<1\\1\quad,x\geqslant 1\\\end{array}\right.,P\{X=1\}=F(1)-F(1-0)=\frac{1}{2} F(x)=⎩ ⎨ ⎧0,x<0x/2,0⩽x<11,x⩾1,P{X=1}=F(1)−F(1−0)=21 为混合型.
概率密度判别:
-
a f ( a x + b ) af(ax+b) af(ax+b) 仍为密度,因为 ∫ − ∞ + ∞ f ( a x + b ) d ( a x + b ) = 1 \displaystyle \int_{-\infty}^{+\infty}f(ax+b)\mathrm{d}(ax+b)=1 ∫−∞+∞f(ax+b)d(ax+b)=1.
-
a 1 f 1 ( x ) + a 2 f ( x 2 ) , a 1 + a 2 = 1 , a i ⩾ 0 a_1f_1(x)+a_2f(x_2),a_1+a_2=1,a_i \geqslant 0 a1f1(x)+a2f(x2),a1+a2=1,ai⩾0 仍为密度 .
-
f 1 ( x ) ⋅ f 2 ( x ) f_1(x)\cdot f_2(x) f1(x)⋅f2(x) 未必是密度.
-
f 1 ( x ) F 1 ( x ) + f 2 ( x ) F 2 ( x ) = d [ F 1 ( x ) F 2 ( x ) ] d x \displaystyle f_1(x)F_1(x)+f_2(x)F_2(x)=\frac{\mathrm{d}[F_1(x)F_2(x)]}{\mathrm{d}x} f1(x)F1(x)+f2(x)F2(x)=dxd[F1(x)F2(x)] 仍为密度.
4.2.2.2 分布函数
F ( x ) = P { X ⩽ x } = ∫ − ∞ x f ( t ) d t , f ( x ) ⩾ 0 P { X < x } = F ( x − 0 ) F(x)=P\{X\leqslant x\}=\int_{-\infty}^{x}f(t)\mathrm{d}t,f(x)\geqslant 0 \\{} \\P\{X<x\}=F(x-0) F(x)=P{X⩽x}=∫−∞xf(t)dt,f(x)⩾0P{X<x}=F(x−0)
4.2.2.3 推论
X ∼ F X ( x ) ∈ C ( R ) ⇒ Y = F X ( X ) ∼ U ( 0 , 1 ) X\sim F_{_X}(x)\in C(\mathbb{R})\ \Rightarrow\ Y=F_{_X}(X)\sim U(0,1) X∼FX(x)∈C(R) ⇒ Y=FX(X)∼U(0,1)
proof:
∀
y
∈
[
0
,
1
]
:
\forall\ y\in [0,1]:
∀ y∈[0,1]:
P
{
Y
=
F
X
(
X
)
⩽
y
}
=
P
{
X
⩽
F
X
−
1
(
y
)
}
=
F
X
[
F
X
−
1
(
y
)
]
=
y
P\{Y=F_{_X}(X)\leqslant y\}=P\{X \leqslant F_{_X}^{-1}(y)\}=F_{_X}[F_{_X}^{-1}(y)]=y
P{Y=FX(X)⩽y}=P{X⩽FX−1(y)}=FX[FX−1(y)]=y
故 Y = F X ( X ) ∼ U ( 0 , 1 ) Y=F_{_X}(X)\sim U(0,1) Y=FX(X)∼U(0,1)
4.3 Y=g(X) 概率分布
4.3.1 离散型
P { X = x i } = p i ⇒ Y = g ( X ) P { Y = g ( x i ) } = p i P\{X=x_i\}=p_i \ \xRightarrow{\ Y=g(X)\ }\ P\{Y=g(x_i)\}=p_i P{X=xi}=pi Y=g(X) P{Y=g(xi)}=pi
4.3.2 连续型
mathod1:(图像)
Y = g ( X ) ⊂ ( α , β ) Y=g(X)\subset (\alpha,\beta) Y=g(X)⊂(α,β),由 Y = y Y=y Y=y 确定 g ( X ) ⩽ y g(X)\leqslant y g(X)⩽y 的 X X X 范围,
- y < α , F Y ( y ) = 0 y<\alpha,F_{_Y}(y)=0 y<α,FY(y)=0
- y ⩾ β , F Y ( y ) = 1 y\geqslant \beta,F_{_Y}(y)=1 y⩾β,FY(y)=1
- α ⩽ y < β , P { g ( X ) ⩽ y } = P { φ 1 ( y ) ⩽ X ⩽ φ 2 ( y ) } = ∫ φ 1 ( y ) φ 2 ( y ) f X ( t ) d t ⇒ { 可积:直接计算分布函数 不可积:变限积分求导,求解概率密度 \displaystyle\alpha\leqslant y< \beta,P\{g(X)\leqslant y\}=P\{\varphi_1(y)\leqslant X\leqslant \varphi_2(y)\}=\int_{\varphi_1(y)}^{\varphi_2(y)}f_{_X}(t)\mathrm{d}t \\ \Rightarrow \left\{\begin{array}{l}可积:直接计算分布函数\\ 不可积:变限积分求导,求解概率密度\end{array}\right. α⩽y<β,P{g(X)⩽y}=P{φ1(y)⩽X⩽φ2(y)}=∫φ1(y)φ2(y)fX(t)dt⇒{可积:直接计算分布函数不可积:变限积分求导,求解概率密度
mathod2:(公式)
F
Y
(
y
)
=
P
{
Y
=
g
(
X
)
⩽
y
}
=
P
{
X
⩽
g
−
1
(
y
)
}
=
F
X
[
g
−
1
(
y
)
]
=
∫
−
∞
g
−
1
(
y
)
f
X
(
t
)
d
t
F_{_Y}(y)=P\{Y=g(X)\leqslant y\}=P\{X\leqslant g^{-1}(y)\}=F_{_X}[g^{-1}(y)]=\int_{-\infty}^{g^{-1}(y)}f_{_X}(t)\mathrm{d}t
FY(y)=P{Y=g(X)⩽y}=P{X⩽g−1(y)}=FX[g−1(y)]=∫−∞g−1(y)fX(t)dt
f
Y
(
y
)
=
{
F
Y
′
(
y
)
=
[
∫
−
∞
g
−
1
(
y
)
f
X
(
t
)
d
t
]
′
=
f
X
[
g
−
1
(
y
)
]
⋅
∣
[
g
−
1
(
y
)
]
′
∣
,
y
∈
I
0
,
o
t
h
e
r
w
i
s
e
f_{_Y}(y)=\left\{\begin{array}{l} \displaystyle F_{_Y}'(y)=\left[\int_{-\infty}^{g^{-1}(y)}f_{_X}(t)\mathrm{d}t\right]'=f_{_X}[g^{-1}(y)]\cdot|[g^{-1}(y)]'|\ ,y\in I\\ 0\qquad\qquad\qquad\qquad\qquad\qquad\qquad\qquad\qquad\qquad\qquad\ ,\ otherwise\\\end{array}\right.
fY(y)=⎩
⎨
⎧FY′(y)=[∫−∞g−1(y)fX(t)dt]′=fX[g−1(y)]⋅∣[g−1(y)]′∣ ,y∈I0 , otherwise
Tips: 此处反函数仅展示运算过程,实际反函数未必存在。
4.3.3 混合型
不存在分布律和密度,仅求解 F Y ( y ) F_{_Y}(y) FY(y).
5 二维随机变量
5.1 分布函数
5.1.1 联合分布函数
定义:
F
(
x
,
y
)
=
P
{
(
X
⩽
x
)
∩
(
Y
⩽
y
)
}
=
P
{
X
⩽
x
,
Y
⩽
y
}
(
x
,
y
∈
R
)
F(x,y)=P\{(X\leqslant x)\cap (Y\leqslant y)\}=P\{X\leqslant x,Y\leqslant y\}\ (x,y\in\mathbb{R})
F(x,y)=P{(X⩽x)∩(Y⩽y)}=P{X⩽x,Y⩽y} (x,y∈R)
值域:
0
⩽
F
(
−
∞
,
y
)
F
(
x
,
−
∞
)
F
(
−
∞
,
+
∞
)
⩽
F
(
x
,
y
)
⩽
F
(
−
∞
,
+
∞
)
=
1
0 \leqslant \begin{array}{l}F(-\infty,y)\\F(x,-\infty)\\F(-\infty,+\infty)\end{array} \leqslant F(x,y)\leqslant F(-\infty,+\infty)=1
0⩽F(−∞,y)F(x,−∞)F(−∞,+∞)⩽F(x,y)⩽F(−∞,+∞)=1
右连续性:
F
(
x
,
y
)
=
F
(
x
+
0
,
y
)
=
F
(
x
,
y
+
0
)
F(x,y)=F(x+0\ ,y)=F(x\ ,y+0)
F(x,y)=F(x+0 ,y)=F(x ,y+0)
区域计算:
P
{
(
X
,
Y
)
∈
D
}
=
P
{
x
1
<
X
⩽
x
2
,
y
1
<
Y
⩽
y
2
}
=
F
(
x
2
,
y
2
)
−
F
(
x
2
,
y
1
)
+
F
(
x
1
,
y
1
)
−
F
(
x
1
,
y
2
)
\begin{aligned} P\{(X,Y)\in D\}&=P\{x_1<X\leqslant x_2\ ,\ y_1<Y\leqslant y_2\} \\&=F(x_2,y_2)-F(x_2,y_1)+F(x_1,y_1)-F(x_1,y_2) \end{aligned}
P{(X,Y)∈D}=P{x1<X⩽x2 , y1<Y⩽y2}=F(x2,y2)−F(x2,y1)+F(x1,y1)−F(x1,y2)
5.1.2 边缘分布函数
F X ( x ) = P { X ⩽ x } = P { X ⩽ x , Y ⩽ + ∞ } = F ( x , + ∞ ) F Y ( y ) = P { Y ⩽ y } = P { X ⩽ + ∞ , Y ⩽ y } = F ( + ∞ , y ) \begin{aligned} F_{_X}(x)&=P\{X\leqslant x\}=P\{X\leqslant x,Y\leqslant +\infty\}=F(x,+\infty) \\ \\F_{_Y}(y)&=P\{Y\leqslant y\}=P\{X\leqslant +\infty,Y\leqslant y\}=F(+\infty,y) \end{aligned} FX(x)FY(y)=P{X⩽x}=P{X⩽x,Y⩽+∞}=F(x,+∞)=P{Y⩽y}=P{X⩽+∞,Y⩽y}=F(+∞,y)
5.2 概率密度
5.2.1 离散型
5.2.1.1 联合概率分布
p i j ⩾ 0 y x \begin{matrix}p_{ij}\geqslant 0 & y\\ \quad & \quad\\ x& \quad\\ \end{matrix} pij⩾0xy | y 1 y_1 y1 | y 2 y_2 y2 | ⋯ \cdots ⋯ | y n y_n yn | ⋯ \cdots ⋯ | p i ⋅ = ∑ i = 1 ∞ p i j = 1 p_{i\cdot}=\sum\limits_{i=1}^{\infty}p_{ij}=1 pi⋅=i=1∑∞pij=1 |
---|---|---|---|---|---|---|
x 1 x_1 x1 | p 11 p_{11} p11 | p 12 p_{12} p12 | ⋯ \cdots ⋯ | p 1 n p_{1n} p1n | ⋯ \cdots ⋯ | p 1 ⋅ p_{1\cdot} p1⋅ |
x 2 x_2 x2 | p 21 p_{21} p21 | p 22 p_{22} p22 | ⋯ \cdots ⋯ | p 2 n p_{2n} p2n | ⋯ \cdots ⋯ | p 2 ⋅ p_{2\cdot} p2⋅ |
⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ||
x n x_n xn | p n 1 p_{n1} pn1 | p n 2 p_{n2} pn2 | ⋯ \cdots ⋯ | p n m p_{nm} pnm | ⋯ \cdots ⋯ | p m ⋅ p_{m\cdot} pm⋅ |
⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ⋮ \vdots ⋮ | ||
p ⋅ j = ∑ j = 1 ∞ p i j = 1 p_{\cdot j}=\sum\limits_{j=1}^{\infty}p_{ij}=1 p⋅j=j=1∑∞pij=1 | p ⋅ 1 p_{\cdot 1} p⋅1 | p ⋅ 2 p_{\cdot 2} p⋅2 | ⋯ \cdots ⋯ | p ⋅ n p_{\cdot n} p⋅n | ⋯ \cdots ⋯ | ∑ i = 1 ∞ ∑ j = 1 ∞ p i j = 1 \sum\limits_{i=1}^{\infty}\sum\limits_{j=1}^{\infty}p_{ij}=1 i=1∑∞j=1∑∞pij=1 |
5.2.1.2 条件概率分布
P { X = x i ∣ Y = y i } = P { X = x i , Y = y i } P { Y = y i } = p i j p ⋅ j P { Y = y i ∣ X = x i } = P { Y = y i , X = x i } P { X = x i } = p i j p i ⋅ P\{X=x_i|Y=y_i\}=\frac{P\{X=x_i,Y=y_i\}}{P\{Y=y_i\}}=\frac{p_{ij}}{p_{\cdot j}} \\{} \\P\{Y=y_i|X=x_i\}=\frac{P\{Y=y_i,X=x_i\}}{P\{X=x_i\}}=\frac{p_{ij}}{p_{i \cdot }} P{X=xi∣Y=yi}=P{Y=yi}P{X=xi,Y=yi}=p⋅jpijP{Y=yi∣X=xi}=P{X=xi}P{Y=yi,X=xi}=pi⋅pij
5.2.2 连续型
5.2.2.1 联合概率密度
定义:
F
F
F 为分布函数,
∃
0
<
f
∈
R
,
s
.
t
.
F
(
x
,
y
)
=
∫
−
∞
x
∫
−
∞
y
f
(
u
,
v
)
d
u
d
v
\displaystyle\exists 0<f\in R,\ \mathrm{s.t.}\ F(x,y)=\int_{-\infty}^x\int_{-\infty}^yf(u,v)\mathrm{d}u\mathrm{d}v
∃0<f∈R, s.t. F(x,y)=∫−∞x∫−∞yf(u,v)dudv
性质:
- f ( x , y ) ⩾ 0 , ∫ − ∞ + ∞ ∫ − ∞ + ∞ f ( u , v ) d u d v = F ( + ∞ , + ∞ ) = 1 \displaystyle f(x,y)\geqslant 0,\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(u,v)\mathrm{d}u\mathrm{d}v=F(+\infty,+\infty)=1 f(x,y)⩾0,∫−∞+∞∫−∞+∞f(u,v)dudv=F(+∞,+∞)=1
- P { ( X , Y ) ∈ G } = ∬ G f ( x , y ) d x d y \displaystyle P\{(X,Y)\in G\}=\iint_{_G}f(x,y)\mathrm{d}x\mathrm{d}y P{(X,Y)∈G}=∬Gf(x,y)dxdy
- f ( x , y ) f(x,y) f(x,y) 在 ( x , y ) (x,y) (x,y) 连续,则 ∂ 2 F ( x , y ) ∂ x ∂ y = f ( x , y ) \displaystyle \frac{\partial^2F(x,y)}{\partial x\partial y}=f(x,y) ∂x∂y∂2F(x,y)=f(x,y)
5.2.2.2 边缘概率密度
F X ( x ) = ∫ − ∞ x [ ∫ − ∞ + ∞ f ( x , y ) d y ] d x ⇒ f X ( x ) = ∫ − ∞ + ∞ f ( x , y ) d y F Y ( y ) = ∫ − ∞ y [ ∫ − ∞ + ∞ f ( x , y ) d x ] d y ⇒ f Y ( y ) = ∫ − ∞ + ∞ f ( x , y ) d x F_{_X}(x)=\int_{-\infty}^x\left[\int_{-\infty}^{+\infty}f(x,y)\mathrm{d}y\right]\mathrm{d}x \ \Rightarrow\ f_{_X}(x)=\int_{-\infty}^{+\infty}f(x,y)\mathrm{d}y \\\quad \\F_{_Y}(y)=\int_{-\infty}^y\left[\int_{-\infty}^{+\infty}f(x,y)\mathrm{d}x\right]\mathrm{d}y \ \Rightarrow\ f_{_Y}(y)=\int_{-\infty}^{+\infty}f(x,y)\mathrm{d}x FX(x)=∫−∞x[∫−∞+∞f(x,y)dy]dx ⇒ fX(x)=∫−∞+∞f(x,y)dyFY(y)=∫−∞y[∫−∞+∞f(x,y)dx]dy ⇒ fY(y)=∫−∞+∞f(x,y)dx
5.2.2.2 条件概率密度
F Y ∣ X ( y ∣ x ) = ∫ − ∞ y f ( x , t ) f X ( x ) d t ⇒ f Y ∣ X ( y ∣ x ) = f ( x , y ) f X ( x ) , f X ( x ) > 0 F X ∣ Y ( x ∣ y ) = ∫ − ∞ x f ( t , y ) f Y ( y ) d t ⇒ f X ∣ Y ( x ∣ y ) = f ( x , y ) f Y ( y ) , f Y ( y ) > 0 \begin{aligned} F_{_{Y|X}}(y|x)=\int_{-\infty}^y\frac{f(x,t)}{f_{_X}(x)}\mathrm{d}t \ &\Rightarrow\ f_{_{Y|X}}(y|x)=\frac{f(x,y)}{f_{_X}(x)},\ f_{_X}(x)>0 \\ \\ F_{_{X|Y}}(x|y)=\int_{-\infty}^x\frac{f(t,y)}{f_{_Y}(y)}\mathrm{d}t \ &\Rightarrow\ f_{_{X|Y}}(x|y)=\frac{f(x,y)}{f_{_Y}(y)},\ f_{_Y}(y)>0 \end{aligned} FY∣X(y∣x)=∫−∞yfX(x)f(x,t)dt FX∣Y(x∣y)=∫−∞xfY(y)f(t,y)dt ⇒ fY∣X(y∣x)=fX(x)f(x,y), fX(x)>0⇒ fX∣Y(x∣y)=fY(y)f(x,y), fY(y)>0
注意:求解应确保作为条件的边缘概率为正,除去边缘概率为零的点.
5.3 独立
X , Y 互独 ⇔ d e f P { X ⩽ x , Y ⩽ y } = P { X ⩽ x } P { Y ⩽ y } ⇔ F ( x , y ) = F X ( x ) F Y ( y ) ⇔ 离散型 P { X = x i , Y = y i } = P { X = x i } P { Y = y i } ⇔ 连续型 f ( x , y ) = f X ( x ) f Y ( y ) ⇔ 条件密度 f X ∣ Y ( x ∣ y ) = f X ( x ) ⇒ ⇍ f ( X ) , g ( Y ) \begin{aligned} X,Y 互独 &\xLeftrightarrow{\mathrm{def}} P\{X\leqslant x,Y\leqslant y\}=P\{X\leqslant x\}P\{Y\leqslant y\} \\&\Leftrightarrow F(x,y)=F_{_X}(x)F_{_Y}(y) \\&\xLeftrightarrow{\ _{离散型}\ } P\{X=x_i,Y=y_i\}=P\{X=x_i\}P\{Y=y_i\} \\&\xLeftrightarrow{\ _{连续型}\ } f(x,y)=f_{_X}(x)f_{_Y}(y) \\&\xLeftrightarrow{\ _{条件密度}} f_{_{X|Y}}(x|y)=f_{_X}(x) \\&\begin{array}{l}\Rightarrow\\ \nLeftarrow\\\end{array}\ f(X)\ ,\ g(Y) \end{aligned} X,Y互独def P{X⩽x,Y⩽y}=P{X⩽x}P{Y⩽y}⇔F(x,y)=FX(x)FY(y) 离散型 P{X=xi,Y=yi}=P{X=xi}P{Y=yi} 连续型 f(x,y)=fX(x)fY(y) 条件密度 fX∣Y(x∣y)=fX(x)⇒⇍ f(X) , g(Y)
5.4 r.v.函数
F Z ( z ) = P { g ( X , Y ) ⩽ z } = { ∑ g ( x i , y i ) ⩽ z p i j ∬ g ( x i , y i ) ⩽ z f ( x , y ) d x d y = X , Y 互独 { ∑ g ( x i , y i ) ⩽ z p i p j ∬ g ( x i , y i ) ⩽ z f X ( x ) f Y ( y ) d x d y F_{_Z}(z)=P\{g(X,Y)\leqslant z\}=\left\{\begin{array}{l}{\displaystyle \sum\limits_{g(x_i,y_i)\leqslant z}}p_{ij}\\ \\ {\displaystyle \iint\limits_{g(x_i,y_i)\leqslant z}f(x,y)\mathrm{d}x\mathrm{d}y}\\ \end{array}\right. \xlongequal{X,Y互独}\left\{\begin{array}{l} {\displaystyle \sum\limits_{g(x_i,y_i)\leqslant z}}p_ip_j\\ \\ {\displaystyle \iint\limits_{g(x_i,y_i)\leqslant z}f_{_X}(x)f_{_Y}(y)\mathrm{d}x\mathrm{d}y}\\ \end{array}\right. FZ(z)=P{g(X,Y)⩽z}=⎩ ⎨ ⎧g(xi,yi)⩽z∑pijg(xi,yi)⩽z∬f(x,y)dxdyX,Y互独⎩ ⎨ ⎧g(xi,yi)⩽z∑pipjg(xi,yi)⩽z∬fX(x)fY(y)dxdy
6 数字特征
6.1 期望
定义:
E ( X ) = ∑ i = 1 ∞ x i p i = ∫ − ∞ + ∞ x f ( x ) d x \displaystyle E(X)=\sum_{i=1}^{\infty}x_ip_i=\int_{-\infty}^{+\infty}xf(x)\mathrm{d}x E(X)=i=1∑∞xipi=∫−∞+∞xf(x)dx 绝对收敛
性质:
- E ( C ) = C ∈ R E(C)=C\in\mathbb{R} E(C)=C∈R
- E ( C X ) = C E ( X ) E(CX)=CE(X) E(CX)=CE(X)
- E ( X ± Y ) = E ( X ) ± E ( Y ) E(X\pm Y)=E(X)\pm E(Y) E(X±Y)=E(X)±E(Y)
- X , Y X,Y X,Y 独立 ⇒ E ( X Y ) = E ( X ) E ( Y ) ⇔ ρ X Y = 0 \Rightarrow\ E(XY)=E(X)E(Y) \Leftrightarrow \rho_{XY}=0 ⇒ E(XY)=E(X)E(Y)⇔ρXY=0,即 X , Y X,Y X,Y不相关
- E ( X 2 ) = D ( X ) + [ E ( X ) ] 2 ; E ( X n ) E(X^2)=D(X)+[E(X)]^2;E(X^n) E(X2)=D(X)+[E(X)]2;E(Xn) 则使用定义式,注意奇偶性化简
r.v.函数:
E
(
Y
)
=
E
[
g
(
X
)
]
=
{
∑
i
=
1
∞
g
(
x
i
)
p
i
∫
−
∞
+
∞
g
(
x
)
f
(
x
)
d
x
E(Y)=E[g(X)]=\left\{\begin{array}{l} \displaystyle \sum\limits_{i=1}^{\infty}g(x_i)p_i\\ \\ \displaystyle \int_{-\infty}^{+\infty}g(x)f(x)\mathrm{d}x\\ \end{array}\right.
E(Y)=E[g(X)]=⎩
⎨
⎧i=1∑∞g(xi)pi∫−∞+∞g(x)f(x)dx
E ( Z ) = E [ g ( X , Y ) ] = { ∑ j = 1 ∞ ∑ i = 1 ∞ g ( x i , y i ) p i j ∫ − ∞ + ∞ ∫ − ∞ + ∞ g ( x , y ) f ( x , y ) d x d y E(Z)=E[g(X,Y)]=\left\{\begin{array}{l} \displaystyle \sum\limits_{j=1}^{\infty}\sum\limits_{i=1}^{\infty}g(x_i,y_i)p_{ij}\\ \\ \displaystyle \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}g(x,y)f(x,y)\mathrm{d}x\mathrm{d}y\\ \end{array}\right. E(Z)=E[g(X,Y)]=⎩ ⎨ ⎧j=1∑∞i=1∑∞g(xi,yi)pij∫−∞+∞∫−∞+∞g(x,y)f(x,y)dxdy
重期望公式:
E ( X ) = E ( E ( X ∣ Y ) ) E(X)=E(E(X|Y)) E(X)=E(E(X∣Y))
6.2 方差
定义:
V a r ( X ) = D ( X ) = d e f E { [ X − E ( X ) ] 2 } = E ( X 2 ) − [ E ( X ) ] 2 \mathrm{Var}(X)=D(X)\xlongequal{\rm{def}}E\{[X-E(X)]^2\}=E(X^2)-[E(X)]^2 Var(X)=D(X)defE{[X−E(X)]2}=E(X2)−[E(X)]2
标准化r.v.:
E
(
X
−
E
X
D
X
)
=
0
,
D
(
X
−
E
X
D
X
)
=
1
E\left(\frac{X-EX}{\sqrt{DX}}\right)=0\ ,\ D\left(\frac{X-EX}{\sqrt{DX}}\right)=1
E(DXX−EX)=0 , D(DXX−EX)=1
性质:
- D ( C ) = 0 D(C)=0 D(C)=0
- D ( C X ) = C 2 D ( X ) D(CX)=C^2D(X) D(CX)=C2D(X)
- D ( X ± Y ) = D ( X ) + D ( Y ) ± 2 C o v ( X , Y ) = 独立 ⇒ 不相关 D ( X ) + D ( Y ) D(X\pm Y)=D(X)+D(Y)\pm 2\mathrm{Cov}(X,Y)\xlongequal{独立\Rightarrow 不相关}D(X)+D(Y) D(X±Y)=D(X)+D(Y)±2Cov(X,Y)独立⇒不相关D(X)+D(Y)
- D ( X ) = 0 ⇔ P { X = E ( X ) } = 1 D(X)=0\Leftrightarrow P\{X=E(X)\}=1 D(X)=0⇔P{X=E(X)}=1
6.3 协方差
定义:
C
o
v
(
X
,
Y
)
=
E
[
(
X
−
E
X
)
(
Y
−
E
Y
)
]
=
E
(
X
Y
)
−
E
(
X
)
E
(
Y
)
\mathrm{Cov}(X,Y)=E[(X-EX)(Y-EY)]=E(XY)-E(X)E(Y)
Cov(X,Y)=E[(X−EX)(Y−EY)]=E(XY)−E(X)E(Y)
性质:
- C o v ( X , Y ) = C o v ( Y , X ) \mathrm{Cov}(X,Y)=\mathrm{Cov}(Y,X) Cov(X,Y)=Cov(Y,X)
-
C
o
v
(
X
,
X
)
=
D
(
X
)
\mathrm{Cov}(X,X)=D(X)
Cov(X,X)=D(X)
D ( X ± Y ) = D ( X ) + D ( Y ) ± 2 C o v ( X , Y ) D(X\pm Y)=D(X)+D(Y)\pm 2\mathrm{Cov}(X,Y) D(X±Y)=D(X)+D(Y)±2Cov(X,Y)
D ( ∑ i = 1 n X i ) = ∑ i = 1 n D ( X i ) + ∑ 1 ⩽ i < j ⩽ n 2 C o v ( X i , X j ) \displaystyle D\left(\sum\limits_{i=1}^{n}X_i\right)=\sum\limits_{i=1}^{n}D(X_i)+\sum\limits_{1 \leqslant i < j \leqslant n}2\mathrm{Cov}(X_i,X_j) D(i=1∑nXi)=i=1∑nD(Xi)+1⩽i<j⩽n∑2Cov(Xi,Xj) - C o v ( a X , b Y ) = a b C o v ( X , Y ) \mathrm{Cov}(aX,bY)=ab\ \mathrm{Cov}(X,Y) Cov(aX,bY)=ab Cov(X,Y)
- C o v ( X 1 + X 2 , Y ) = C o v ( X 1 , Y ) + C o v ( X 2 , Y ) \mathrm{Cov}(X_1+X_2,Y)=\mathrm{Cov}(X_1,Y)+\mathrm{Cov}(X_2,Y) Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)
6.4 线性相关系数
定义:
ρ
X
Y
=
C
o
v
(
X
,
Y
)
D
(
X
)
D
(
Y
)
\rho_{_{XY}}=\frac{\mathrm{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}
ρXY=D(X)D(Y)Cov(X,Y)
性质:
- ∣ ρ X Y ∣ ⩽ 1 |\rho_{_{XY}}|\leqslant 1 ∣ρXY∣⩽1
- ∣ ρ X Y ∣ = 1 ⇔ ∃ a , b ∈ R , s . t . P { Y = a X + b } = 1 |\rho_{_{XY}}|= 1 \Leftrightarrow \exists\ a,b\in\mathbb{R},\mathrm{s.t.}\ P\{Y=aX+b\}=1 ∣ρXY∣=1⇔∃ a,b∈R,s.t. P{Y=aX+b}=1,且 ρ X Y = { 1 , a > 0 − 1 , a < 0 \rho_{_{XY}}=\left\{\begin{array}{l}{\ \ 1\ ,a>0}\\{-1,a<0}\\\end{array}\right. ρXY={ 1 ,a>0−1,a<0
独立/不相关的结论:
- X , Y X,Y X,Y 独立 ( P ( X Y ) = P ( X ) P ( Y ) ) ⇒ ⇍ X , Y (P(XY)=P(X)P(Y))\ \begin{array}{l}{\Rightarrow}\\{\nLeftarrow}\\\end{array} X,Y (P(XY)=P(X)P(Y)) ⇒⇍X,Y 不相关 ⇔ ρ X Y = 0 { ⇔ C o v ( X , Y ) = 0 ⇔ E ( X Y ) − E ( X ) E ( Y ) = 0 ⇔ D ( X ± Y ) = D ( X ) ± D ( Y ) \Leftrightarrow \rho_{_{XY}}=0\ \left\{\begin{array}{l}{\Leftrightarrow \mathrm{Cov}(X,Y)=0}\\{\Leftrightarrow E(XY)-E(X)E(Y)=0}\\{\Leftrightarrow D(X\pm Y)=D(X)\pm D(Y)}\\\end{array}\right. ⇔ρXY=0 ⎩ ⎨ ⎧⇔Cov(X,Y)=0⇔E(XY)−E(X)E(Y)=0⇔D(X±Y)=D(X)±D(Y)
Tips: 不相关即二者无线性关系,但可能存在非线性关系;独立即不存在任何关系.
- ( X , Y ) ∼ N ; X , Y (X,Y)\sim N;\ X,Y (X,Y)∼N; X,Y 独立 ⇔ X , Y \ \Leftrightarrow\ X,Y ⇔ X,Y 不相关
- X , Y ∼ B ( 1 , p ) ; X , Y X,Y\sim B(1,p);\ X,Y X,Y∼B(1,p); X,Y 独立 ⇔ X , Y \ \Leftrightarrow\ X,Y ⇔ X,Y 不相关
6.5 矩
k
k
k 阶原点矩:
E
(
X
k
)
E(X^k)
E(Xk)
k
k
k 阶中心矩:
E
{
[
X
−
E
(
X
)
]
k
}
E\{[X-E(X)]^k\}
E{[X−E(X)]k}
k
+
l
k+l
k+l 阶混合矩:
E
(
X
k
Y
l
)
,
E
[
(
X
−
E
X
)
k
(
Y
−
E
Y
)
l
]
E(X^kY^l),\ E[(X-EX)^k(Y-EY)^l]
E(XkYl), E[(X−EX)k(Y−EY)l]