概率论与数理统计（湖南大学教材《大学数学4（第三版）》）笔记（二）（持续更新中）

前导章节

• 参见博客
  • 概率论与数理统计（湖南大学教材《大学数学4（第三版）》）笔记（一）

第四节|分布函数

定义

• 设$X$是一个随机变量，$x$是任意实数，称 F ( x ) = P { X ≤ x } F(x) = P \{ X \leq x \} F(x)=P{X≤x}为$X$的分布函数
• P { x 1 < X ≤ x 2 } = P { X ≤ x 2 } − P { X ≤ x 1 } = F ( x 2 ) − F ( x 1 ) P \{ x_{1} < X \leq x_{2} \} = P \{ X \leq x_{2} \} - P \{ X \leq x_{1} \} = F(x_{2}) - F(x_{1}) P{x1​<X≤x2​}=P{X≤x2​}−P{X≤x1​}=F(x2​)−F(x1​)

性质

• $0\le F(x)\le 1,x\in R$

• $F(-\infty )=\underset{x\to -\infty }{\lim }F(x)=0$，$F(+\infty )=\underset{x\to +\infty }{\lim }F(x)=1$

• $F(x)$是单调不减的函数，即$F(x_1)\le F(x_2),x_1<x_2$

  • 事实上， F ( x 2 ) − F ( x 1 ) = P { x 1 < X ≤ x 2 } ≥ 0 F(x_{2}) - F(x_{1}) = P \{ x_{1} < X \leq x_{2} \} \geq 0 F(x2​)−F(x1​)=P{x1​<X≤x2​}≥0，故$F(x_1)\le F(x_2)$

• $F(x)$右连续，即$F(x)=F(x+0)$

• 满足上述$4$个性质的函数也一定是某个随机变量的分布函数

离散型随机变量的分布函数

• 设$F(x)$是离散型随机变量的分布函数，则 F ( x ) = P { X ≤ x } = P { ⋃ x k ≤ x ( X = x k ) } = ∑ x k ≤ x P { X = x k } = ∑ x k ≤ x p k F(x) = P \{ X \leq x \} = P \{ \bigcup\limits_{x_{k} \leq x}{(X = x_{k})} \} = \sum\limits_{x_{k} \leq x}{P \{ X = x_{k} \}} = \sum\limits_{x_{k} \leq x}{p_{k}} F(x)=P{X≤x}=P{xk​≤x⋃​(X=xk​)}=xk​≤x∑​P{X=xk​}=xk​≤x∑​pk​，其中和式是对于所有$x_k\le x$的指标$k$求和

• p k = P { X = x k } = F ( x k ) − F ( x k − 0 ) p_{k} = P \{ X = x_{k} \} = F(x_{k}) - F(x_{k} - 0) pk​=P{X=xk​}=F(xk​)−F(xk​−0)

• 若已知$X$的分布函数$F(x)$，则 P { a ≤ X ≤ b } = P { a < X ≤ b } + P { X = a } = F ( b ) − F ( a ) + P { X = a } P \{ a \leq X \leq b \} = P \{ a < X \leq b \} + P \{ X = a \} = F(b) - F(a) + P \{ X = a \} P{a≤X≤b}=P{a<X≤b}+P{X=a}=F(b)−F(a)+P{X=a}

连续型随机变量的分布函数

• 若$X$是连续型随机变量，其概率密度为$f(x)$，则 F ( X ) = P { X ≤ x } = ∫ − ∞ x f ( t ) d t F(X) = P \{ X \leq x \} = \displaystyle\int_{- \infty}^{x}{f(t) dt} F(X)=P{X≤x}=∫−∞x​f(t)dt，即分布函数是概率密度函数的可变积分上限的定积分
• 在$f(x)$的连续点，有$\frac{dF(x)}{dx}=f(x)$，即概率密度函数是分布函数的导数

例题$1$

• 问题：证明：若$X\sim N(\mu ,{\sigma }^2)$，则$Y=\frac{X-\mu }{\sigma }\sim N(0,1)$

• 解答

  • P { a ≤ Y ≤ b } = P { a ≤ X − μ σ ≤ b } = P { μ + σ a ≤ X ≤ μ + σ b } = ∫ μ + σ a μ + σ b 1 σ 2 π e − ( x − μ ) 2 2 σ 2 d x P \{ a \leq Y \leq b \} = P \{ a \leq \cfrac{X - \mu}{\sigma} \leq b \} = P \{ \mu + \sigma a \leq X \leq \mu + \sigma b \} = \displaystyle\int_{\mu + \sigma a}^{\mu + \sigma b}{\cfrac{1}{\sigma \sqrt{2 \pi}} e^{- \frac{(x - \mu)^{2}}{2 \sigma^{2}}} dx} P{a≤Y≤b}=P{a≤σX−μ​≤b}=P{μ+σa≤X≤μ+σb}=∫μ+σaμ+σb​σ2π ​1​e−2σ2(x−μ)2​dx

  • 令$t=\frac{x-\mu }{\sigma }$，得 P { a ≤ Y ≤ b } = ∫ a b 1 2 π e − t 2 2 d t P \{ a \leq Y \leq b \} = \displaystyle\int_{a}^{b}{\cfrac{1}{\sqrt{2 \pi}} e^{- \frac{t^{2}}{2}} dt} P{a≤Y≤b}=∫ab​2π ​1​e−2t2​dt，则$Y\sim N(0,1)$

正态随机变量

• 若$X\sim N(\mu ,{\sigma }^2)$，则$Y=aX+b\sim N(a\mu +b,|a{|}^2{\sigma }^2)$，正态随机变量的线性函数仍为正态随机变量

• 对于标准正态分布，用$\Phi (x)$表示分布函数

• 因$\phi (x)$是偶函数，即$\phi (-x)=\phi (x)$，于是$\Phi (-x)=1-\Phi (x)$

  • $\Phi (-x)={\int }_{-\infty }^{-x}\phi (t)dt={\int }_x^{+\infty }\phi (u)du(令t=-u)={\int }_{-\infty }^{+\infty }\phi (u)du-{\int }_{-\infty }^x\phi (u)du=1-\Phi (x)$

• 正态分布$N(\mu ,{\sigma }^2)$的分布函数$F(x)=\Phi (\frac{x-\mu }{\sigma })$

例题$2$

• 问题：设$X\sim N(\mu ,{\sigma }^2)$，求 P { ∣ X − μ ∣ < σ } P \{ | X - \mu | < \sigma \} P{∣X−μ∣<σ}， P { ∣ X − μ ∣ < 2 σ } P \{ | X - \mu | < 2 \sigma \} P{∣X−μ∣<2σ}， P { ∣ X − μ ∣ < 3 σ } P \{ | X - \mu | < 3 \sigma \} P{∣X−μ∣<3σ}

• 解答

  • P { ∣ X − μ ∣ < σ } = P { μ − σ < X < μ + σ } = Φ ( μ + σ − μ σ ) − Φ ( μ − σ − μ σ ) = Φ ( 1 ) − Φ ( − 1 ) = 2 Φ ( 1 ) − 1 = 0.6827 P \{ | X - \mu | < \sigma \} = P \{ \mu - \sigma < X < \mu + \sigma \} = \Phi (\cfrac{\mu + \sigma - \mu}{\sigma}) - \Phi (\cfrac{\mu - \sigma - \mu}{\sigma}) = \Phi (1) - \Phi (- 1) = 2 \Phi (1) - 1 = 0.6827 P{∣X−μ∣<σ}=P{μ−σ<X<μ+σ}=Φ(σμ+σ−μ​)−Φ(σμ−σ−μ​)=Φ(1)−Φ(−1)=2Φ(1)−1=0.6827
  • P { ∣ X − μ ∣ < 2 σ } = 0.9545 P \{ | X - \mu | < 2 \sigma \} = 0.9545 P{∣X−μ∣<2σ}=0.9545
  • P { ∣ X − μ ∣ < 3 σ } = 0.9973 P \{ | X - \mu | < 3 \sigma \} = 0.9973 P{∣X−μ∣<3σ}=0.9973

• $X$几乎全部落在$(\mu -3\sigma ,\mu +3\sigma )$区间内，称为三倍标准差原则（$3\sigma$准则）

例题$3$

• 问题：设$F_1(x)$和$F_2(x)$都是分布函数，$a>0$，$b>0$均为常数，且$a+b=1$
  • （$1$）求证$F(x)=a{F}_1(x)+b{F}_2(x)$也是一个分布函数
  • （$2$）由此讨论分布函数是否只有离散型和连续型两种类型
• 解答

  • （$1$）因$F_1(x)$，$F_2(x)$均为分布函数，则由分布函数的性质，得当$x_1<x_2$时，有$F_1(x_1)\le F_1(x_2)$，$F_2(x_1)\le F_2(x_2)$

    • $F(x_1)=a{F}_1(x_1)+b{F}_2(x_1)\le a{F}_1(x_2)+b{F}_2(x_2)=F(x_2)$

    • $\underset{x\to -\infty }{\lim }F(x)=\underset{x\to -\infty }{\lim }[a{F}_1(x)+b{F}_2(x)]=0$

    • $\underset{x\to +\infty }{\lim }F(x)=\underset{x\to +\infty }{\lim }[a{F}_1(x)+b{F}_2(x)]=a+b=1$

    • $F(x+0)=a{F}_1(x+0)+b{F}_2(x+0)=a{F}_1(x)+b{F}_2(x)=F(x)$

    • 因此$F(x)$也是分布函数

  • （$2$）取$a=b=\frac{1}{2}$，令$F_1(x)=\{\begin{array}{ll}0,& x<0\\ 1,& x\ge 0\end{array}$，$F_2(x)=\{\begin{array}{ll}0,& x<0\\ x,& 0\le x\le 1\\ 1,& x>1\end{array}$，则$F(x)=\{\begin{array}{ll}0,& x<0\\ \frac{1+x}{2},& 0\le x\le 1\\ 1,& x>1\end{array}$

    • 显然，此分布函数$F(x)$既不是阶梯函数也不是连续函数，于是$F(x)$所对应的随机变量既不是离散型也不是连续型
    • 随机变量并非只有离散型和连续型两大类型

---

第五节|随机变量函数的分布

离散型随机变量函数的分布

• 设随机变量$X$的分布律 P { X = x k } = p k , k = 1 , 2 , ⋯ P \{ X = x_{k} \} = p_{k} , k = 1 , 2 , \cdots P{X=xk​}=pk​,k=1,2,⋯，则当$Y=g(X)$的所有取值为$y_j(j=1,2,\cdots )$时，随机变量$Y$的分布律为 P { Y = y j } = q j , j = 1 , 2 , ⋯ P \{ Y = y_{j} \} = q_{j} , j = 1 , 2 , \cdots P{Y=yj​}=qj​,j=1,2,⋯，其中$q_j$是所有满足$g(x_i)=y_j$的$x_i$对应的$X$的概率 P { X = x i } = p i P \{ X = x_{i} \} = p_{i} P{X=xi​}=pi​的和，即 P { Y = y j } = ∑ g ( x i ) = y j P { X = x i } P \{ Y = y_{j} \} = \sum\limits_{g(x_{i}) = y_{j}}{P \{ X = x_{i} \}} P{Y=yj​}=g(xi​)=yj​∑​P{X=xi​}

例题$1$

• 问题：设随机变量$X$的概率密度为$f_X(x)$，求$Y=aX+b$（$a$，$b$为常数，且$a\ne 0$）的概率密度
• 解答
  • 设$X$和$Y$的分布函数分别为$F_X(x)$和$F_Y(y)$，$Y$的概率密度为$f_Y(y)$
  • 由分布函数定义，得 F Y ( y ) = P { Y ≤ y } = P { a X + b ≤ y } F_{Y} (y) = P \{ Y \leq y \} = P \{ aX + b \leq y \} FY​(y)=P{Y≤y}=P{aX+b≤y}
  • 当$a>0$时，有 F Y ( y ) = P { X ≤ y − b a } = F X ( y − b a ) = ∫ − ∞ y − b a f X ( x ) d x F_{Y} (y) = P \{ X \leq \cfrac{y - b}{a} \} = F_{X} (\cfrac{y - b}{a}) = \displaystyle\int_{- \infty}^{\frac{y - b}{a}}{f_{X} (x) dx} FY​(y)=P{X≤ay−b​}=FX​(ay−b​)=∫−∞ay−b​​fX​(x)dx
  • 当$a<0$时，有 F Y ( y ) = P { X ≥ y − b a } = ∫ y − b a + ∞ f X ( x ) d x = − ∫ − ∞ y f X ( t − b a ) ⋅ 1 a d t , ( 令 x = t − b a ) F_{Y} (y) = P \{ X \geq \cfrac{y - b}{a} \} = \displaystyle\int_{\frac{y - b}{a}}^{+ \infty}{f_{X} (x) dx} = - \displaystyle\int_{- \infty}^{y}{f_{X} (\cfrac{t - b}{a}) \cdot \cfrac{1}{a} dt} , (令 x = \cfrac{t - b}{a}) FY​(y)=P{X≥ay−b​}=∫ay−b​+∞​fX​(x)dx=−∫−∞y​fX​(at−b​)⋅a1​dt,(令x=at−b​)
  • 对$F_Y(y)$求导，得$Y$的概率密度

$$f_Y(y)=\{\begin{array}{ll}\frac{1}{a}{f}_X(\frac{y-b}{a}),& a>0\\ -\frac{1}{a}{f}_X(\frac{y-b}{a}),& a<0\end{array}$$

• • 即$f_Y(y)=\frac{1}{|a|}{f}_X(\frac{y-b}{a})(a\ne 0,y\in R)$

• $y=f(x)$的反函数为$x=h(y)=\frac{y-b}{a}$，且$|h^{{}^{\prime }}(y)|=\frac{1}{|a|}$，故$f_Y(y)=f_X[h(y)]\cdot |h^{{}^{\prime }}(y)|$

连续型随机变量函数的分布

• 设$X$为连续型随机变量，$f_X(x)$为$X$的概率密度，若$y=g(x)$为严格单调的连续函数，且反函数$x=h(y)$有连续导数，则$Y=g(X)$为连续型随机变量，且概率密度为$f_Y(y)=f_X[h(y)]\cdot |h^{{}^{\prime }}(y)|$

  • 证明

    • 设$y=g(x)$为严格单调增加的连续函数，定义域为$(a,b)\subset (-\infty ,+\infty )$，值域为$(\alpha ,\beta )\subset (-\infty ,+\infty )$，则其反函数$x=h(y)$在$(\alpha ,\beta )$上也为严格单调增加的连续函数（$h^{{}^{\prime }}(y)>0$）

    • F Y ( y ) = P { Y ≤ y } = P { g ( X ) ≤ y } = P { X ≤ h ( y ) } = ∫ − ∞ h ( y ) f X ( x ) d x = ∫ a h ( y ) f X ( x ) d x F_{Y} (y) = P \{ Y \leq y \} = P \{ g(X) \leq y \} = P \{ X \leq h(y) \} = \displaystyle\int_{- \infty}^{h(y)}{f_{X} (x) dx} = \displaystyle\int_{a}^{h(y)}{f_{X} (x) dx} FY​(y)=P{Y≤y}=P{g(X)≤y}=P{X≤h(y)}=∫−∞h(y)​fX​(x)dx=∫ah(y)​fX​(x)dx

    • $f_Y(y)=F_Y^{{}^{\prime }}(y)=f_X[h(y)]\cdot h^{{}^{\prime }}(y),h^{{}^{\prime }}(y)>0$

    • 类似地，当$y=g(x)$为严格单调减少时，有$f_Y(y)=-f_X[h(y)]\cdot h^{{}^{\prime }}(y),h^{{}^{\prime }}(y)<0$

定理$1$

• 设$Y=g(X)$，$X$为连续型随机变量，$f_X(x)$为$X$的概率密度，若$y=g(x)$为连续函数，它在不相重叠的区间$I_1$，$I_2$，$\cdots$上逐段严格单调，对应的反函数分别为$h_1(y)$，$h_2(y)$，$\cdots$，而且$h_1^{{}^{\prime }}(y)$，$h_2^{{}^{\prime }}(y)$，$\cdots$均连续，则$Y=g(X)$为连续型随机变量，且概率密度为$f_Y(y)=\sum _i{f}_X[h_i(y)]\cdot |h_i^{{}^{\prime }}(y)|$
  • 约定：对使反函数$h(y)$或其导数$h^{{}^{\prime }}(y)$无意义的$y$，$f_Y(y)=0$

例题$2$

• 问题：设质点$M$随机地落在以原点为圆心以$R$为半径的圆周上，且对弧长是均匀分布的，求质点$M$的横坐标$X$的概率密度
• 解答
  • 设$Z$为$x$轴与$OM$的夹角，则$X=R\cos Z$，据题意知，$Z\sim U[-\pi ,\pi ]$，其概率密度为

$$f_Z(z)=\{\begin{array}{ll}\frac{1}{2\pi },& -\pi \le z\le \pi \\ 0,& 其他\end{array}$$

• • 解法一
    • F X ( x ) = P { X ≤ x } = P { R cos ⁡ z ≤ x } = P { cos ⁡ z ≤ x R } , ∀ x ∈ ( − ∞ , + ∞ ) F_{X} (x) = P \{ X \leq x \} = P \{ R \cos{z} \leq x \} = P \{ \cos{z} \leq \cfrac{x}{R} \} , \forall x \in (- \infty , + \infty) FX​(x)=P{X≤x}=P{Rcosz≤x}=P{cosz≤Rx​},∀x∈(−∞,+∞)
    • 当$x\le -R$时，$F_X(x)=0$，$f_X(x)=0$
    • 当$x\ge R$时，$F_X(x)=1$，$f_X(x)=0$
    • 当$-R<x<R$时，

F X ( x ) = P { R cos ⁡ z ≤ x } = P { cos ⁡ z ≤ x R } = P { − π ≤ z ≤ − arccos ⁡ x R } + P { arccos ⁡ x R ≤ z ≤ π } = F Z ( − arccos ⁡ x R ) − F Z ( − π ) + F Z ( π ) − F Z ( arccos ⁡ x R ) \begin{aligned} F_{X} (x) = P \{ R \cos{z} \leq x \} &= P \{ \cos{z} \leq \cfrac{x}{R} \} \\ &= P \{ - \pi \leq z \leq - \arccos{\cfrac{x}{R}} \} + P \{ \arccos{\cfrac{x}{R}} \leq z \leq \pi \} \\ &= F_{Z} (- \arccos{\cfrac{x}{R}}) - F_{Z} (- \pi) + F_{Z} (\pi) - F_{Z} (\arccos{\cfrac{x}{R}}) \end{aligned} FX​(x)=P{Rcosz≤x}​=P{cosz≤Rx​}=P{−π≤z≤−arccosRx​}+P{arccosRx​≤z≤π}=FZ​(−arccosRx​)−FZ​(−π)+FZ​(π)−FZ​(arccosRx​)​

• • • $f_X(x)=F_X^{{}^{\prime }}(x)=f_Z(-\arccos \frac{x}{R})\cdot \frac{1}{\sqrt{1-(\frac{x}{R}{)}^2}}\cdot \frac{1}{R}+f_Z(\arccos \frac{x}{R})\cdot \frac{1}{\sqrt{1-(\frac{x}{R}{)}^2}}\cdot \frac{1}{R}=\frac{1}{\pi \sqrt{R^2-x^2}}$

$$f_X(x)=\{\begin{array}{ll}\frac{1}{\pi \sqrt{R^2-x^2}},& |x|<R\\ 0,& |x|\ge R\end{array}$$

• • 解法二

    • 因为$x=R\cos z$在$(-\pi ,0)$和$(0,\pi )$上分别为严格单调的连续函数，相应的反函数分别为$z_1=h_1(x)=-\arccos \frac{x}{R}$，$z_2=h_2(x)=\arccos \frac{x}{R},|x|<R$

    • $f_X(x)=f_Z(-\arccos \frac{x}{R})|(-\arccos \frac{x}{R}{)}^{{}^{\prime }}|+f_Z(\arccos \frac{x}{R})|(\arccos \frac{x}{R}{)}^{{}^{\prime }}|=\frac{1}{\pi \sqrt{R^2-x^2}},|x|<R$

    • 当$|x|\ge R$时，$f_X(x)=0$

例题$3$

• 问题：已知随机变量$X$的分布函数$F(x)$是严格单调增加的连续函数，证明$F(X)$服从$[0,1]$上的均匀分布

• 解答

  • 由于$F(x)$是严格单调增加的连续函数，$0\le F(x)\le 1$，因而$0\le y\le 1$时，$y=F(x)$有反函数$x=F^{-1}(y)$

  • 当$y<0$时， F Y ( y ) = P { Y ≤ y } = P { F ( X ) ≤ y } = 0 F_{Y} (y) = P \{ Y \leq y \} = P \{ F(X) \leq y \} = 0 FY​(y)=P{Y≤y}=P{F(X)≤y}=0

  • 当$0\le y<1$时， F Y ( y ) = P { F ( X ) ≤ y } = P { X ≤ F − 1 ( y ) } = F ( F − 1 ( y ) ) = y F_{Y} (y) = P \{ F(X) \leq y \} = P \{ X \leq F^{- 1} (y) \} = F(F^{- 1} (y)) = y FY​(y)=P{F(X)≤y}=P{X≤F−1(y)}=F(F−1(y))=y

  • 当$y\ge 1$时， F Y ( y ) = P { F ( X ) ≤ y } = 1 F_{Y} (y) = P \{ F(X) \leq y \} = 1 FY​(y)=P{F(X)≤y}=1

$$F_Y(y)=\{\begin{array}{ll}0,& y<0\\ y,& 0\le y<1\\ 1,& y\ge 1\end{array}$$

$$f_Y(y)=\{\begin{array}{ll}1,& 0\le y<1\\ 0,& 其他\end{array}$$

• • 即$Y\sim U[0,1]$

• 该命题广泛用于计算机仿真模拟中

---