信息与通信工程保研专业课复习——概率论

一、概率论的基本概念

 

1.确定性现象与随机现象：

前者指在一定条件下必然发生的一类现象，其结果是确定的，如同种电荷相互排斥，异种电荷相互吸引。

后者指在个别实验中结果呈现不确定性，但在大量重复实验中其结果呈现出统计规律性的现象，如掷色子。(统计规律性：在大量重复实验或观察中所呈现出来的固有规律性)概率论与数理统计这门课也是研究和揭示随机现象统计规律性的一门学科。

简而言之，随机现象体现的是单体的不可预测性和群体的频率稳定性。举个错用概率的例子：一个病人去看病，经检查后医师告诉病人说他需要动手术。病人问这项手术的死亡率怎样？医生说这项手术100个病人有50个要死的，但他立刻安慰病人说，已有50个病人死去了，所以患者不必担心。该例子错在使用统计规律来解释单次实验的不确定性。

 

2.随机试验：该定义比较宽泛，它包含各种各样的科学实验，甚至对某一事物的某一特征的观察、记录也认为是一种试验。但一般具有如下三个特征：

(1)可以在相同条件下重复的进行；

(2)每次试验的可能结果不止一个，并且能实现明确试验的所有可能结果

(3)进行一次试验之前，不能确定哪一个结果会出现

 

3.样本空间：随机试验的所有可能结果所构成的集合称为随机试验的样本空间，记作Ω。称随机试验中的一个可能结果为一个样本点，记为ω，因此样本空间就是样本点的集合。

 

4.随机事件：称试验E的样本空间Ω的子集为E的随机事件，简称事件。在每次试验中，当且仅当这一子集中的一个样本点出现时，称这一事件发生。注：事件是集合，样本点是集合里的元素。

基本事件：由一个样本点组成的单点集。即随机试验的任一种可能结果可能构成一个基本事件，比如A={ω5}。根据定义，基本事件的总数=集合Ω的基数。

必然事件：样本空间Ω作为一个子集，Ω包含于Ω，作为事件时总会发生。

不可能时间：用空集表示，不包含任何样本点，也有包含于Ω，表示每次试验都不发生

当Ω中基本事件数有限时，记Ω中基本事件的个数为|Ω|，则时间总数为

 

5.事件间的运算：

和事件：事件A∪B={x|xÎA或xÎB}，称为A与B的和事件，A和B中至少有一个发生时，事件A∪B发生；

积事件：事件A∩B={x|xÎA且xÎB},称为A与B的积事件。当且仅当A和B同时发生时，事件A∩B才发生；

差事件：事件A-B={x|xÎA且xÏB},称为A与B的差事件。当且仅当A发生，而B不发生时，事件A-B才发生。

 

6.事件的关系：

(1)包含关系(子事件)：若有关系A包含于B，则事件B包含事件A。A发生必然导致B发生；

(2)相等关系；

(3)互不相容(互斥)：A∩B为空集，即A与B不同时发生；

(4)对立关系(逆事件、补集)：A∪B为全集而A∩B为空集

 

7.频率与频数：

频数：设在相同条件下进行了n次试验，其中事件A发生的次数()称为A发生的频数；

频率:称为事件A发生的频率，反映了事件A发生的频繁程度

频率的特点：(1)随机波动性，试验次数较小时波动较大，试验次数变大时波动变小(2)n增大时，频率逐渐稳定与某个常数(3)事件A发生的频繁程度越大，其频率也越大，它在一次实验中出现的可能性也越大。

 

8.概率的公理化定义：设Ω为随机实验的样本空间，若对于随机实验的每一个随机事件A都有一个实数P(A)与之对应，且P(A)满足下列三个条件：(1)非负性：对任意事件A都有P(A)≥0；(2)规范性：P(Ω)=1；(3)可列可加性：设为两两互不相容事件，有,就称P(A)为事件A的概率。

 

9.古典概型(等可能概型)：

如果随机试验有两个明显特点：(1)样本空间中只有有限个元素(2)每个基本事件发生的可能性相同。

则称这种随机试验为古典概型。

 

10.几何概型：

若随机试验具有以下两个特征：(1)样本空间元素有无限个(2)每个样本点的发生具有某种等可能性。

 

11.条件概率：考虑的是在一个事件发生的条件下某事件发生的概率问题。它也符合概率公理化定义的三个条件。

划分：设W 为试验E的样本空间，B1，B2，…，Bn为E的一组事件。若

(i) BiBj=Φ，i≠j，i，j＝1，2，…，n；      

(ii) B1∪B2∪…∪Bn= W

则称B1，B2，…，Bn为W 的一个划分。※每次试验，事件B1，B2，…，Bn中有且仅有一个发生。

 

12.事件的独立性：设A,B是两事件，如果具有等式P(AB)=P(A)P(B),则称事件A，B相互独立。

推广到多个事件：A1, A2, … , An为n个事件，n³2，如果对于其中的任意两个，任意3个，…，任意n个事件的积事件的概率，都等于各事件概率之积，则称事件A1, A2, … , An相互独立。如果仅任意两个事件满足积事件概率等于各事件概率的积，则是两两独立，而不是所有事件相互独立。

 

13.随机变量：设Ω={ω}是随机试验的样本空间，称定义在样本空间Ω上的单值实值函数X=X{ω}为随机变量。

随机变量的分布函数：设X是一个随机变量，称函数F(x)=P(X≤x)，x∈R为随机变量X的分布函数。只要知道了分布函数，其对应的随机变量的统计特性就可以得到全面地描述。

 

15.离散型随机变量：设X是随机变量，如果其所有可能取值为有限个或可列无限多个，则称X为离散型随机变量.

离散型随机变量的分布率：设X是离散型随机变量，其可能的取值为  (k=1,2, …)，称,(k=1,2,...)为X的分布律。

离散型随机变量的分布函数：由概率的可列可加性可得X的分布函数：

几种重要的离散型随机变量：(1)0-1分布/两点分布，记作B(1,p);

(2)伯努利试验与二项分布：设试验E只有两个可能结果，则称E为伯努利试验。将伯努利试验E独立的重复n次，则成为n重伯努利试验。二项分布，记作B(n,p);

(3)泊松(Poisson)分布：若离散型随机变量X的分布律为，则称X服从参数为的泊松分布，记为X～P(λ)或者X～π(λ)， l被称为泊松强度。

(4)几何分布：某人投篮，直到投进为止。假设各次投篮独立且投进的概率为p，则投篮次数X服从参数为p的几何分布。

(5)超几何分布：设有N件产品，其中有M件次品，从中任取n件，则取出的次品数X的分布律为

16.连续型随机变量：设 X 是随机变量，其分布函数为 F (x )，如果存在非负可积函数 f ( x )，使得

则称X为连续型随机变量，称 f (x )为 X 的概率密度函数，简称概率密度。

不可能事件的概率是零，但概率是零的事件未必是不可能事件。另外，只有当X为连续型时，才一定有P{X=a}＝0，否则不一定。

 

几种重要的连续型随机变量

(1)均匀分布，记为X~U(a,b)；(2)正态(高斯)分布，，记为X~N()；

(3)指数分布，若，其中λ >0 为常数，记为X ~ E (λ)；具有无记忆性，即设 X ~ E (λ )，则 ∀ s，t > 0 ， P ( X > s + t  | X > s )= P ( X > t )。

(4)Γ函数，Г(s)=  ，s>0

 

17.随机变量函数及其分布：设 X 是随机变量， y = g ( x )为已知的连续函数，则称 Y = g ( X )为随机变量 X的函数，简称随机变量函数。显然，随机变量函数仍是随机变量。

设 X 是连续型随机变量，其概率密度为 f X (x )，如果 Y = g ( X )仍是连续型随机变量，那么怎样确定 Y 的概率密度呢?   方法：公式法；分布函数法

 

二、常用公式

1.全概率公式：设E的样本空间为W ，A为E的事件，B1，B2，…，Bn为W 的一个划分，且P(Bi)>0（i＝1，2，…，n），则

    P(A)＝P(A|B1)P(B1)+…+ P(A|Bn)P(Bn)=

 

2.贝叶斯公式：设随机试验E的样本空间为W，A为E的随机事件， B1，B2，…，Bn为W的一个划分，且P(A)>0，P(Bi)>0（i＝1，2，…，n），则

                                              (累加号下面应该是i=1哈)我们可以看到，其实分母上就是一个全概率公式

P(Bi)是以往的数据分析得到的，称为先验概率；P(Bi|A)是得到信息之后再重新加以修正的概率，叫做后验概率。

一般在实验之前仅知道Bi的先验概率，那么如果试验后事件A已经发生了，Bi发生的概率又是多少呢？这种问题我们称他为后验概率问题，有利于我们查找事件发生的原因，解决此类问题可采用贝叶斯(Bayes)公式。

 

3.