宋浩 概率统计 笔记_概率论及数理统计——个人笔记

个人笔记不定期更新：

第一章 概率论基本概念

1、样本空间：随机试验 E 的所有可能的结果组成的集合，使用 S 表示

2、基本事件：由一个样本点组成的单点集

3、必然事件：每次试验中都会发生的事件

4、不可能事件：每次试验中都不发生的事件，使用

表示

5、频数：事件 A 在 n 次实验中发生的次数

6、频率：事件 A 在 n 次实验中发生的次数与试验次数 n 的比例，

6.1、性质：

,

事件集合中的事件相互独立试，则有：

7、等可能概率：试验中每个基本事件发生的可能性相同

8、条件概率：在事件A发生的条件下，事件B发生的概率，表示为

多个事件推广：

9、划分：设 S 为试验 E 的样本空间，

为 E 的一组事件，若：

9.1、

9.2、

则称

为样本空间 S 的一个划分

10、全概率公式：A 为 E 的事件， S 为 E 的样本空间，

为 S 的一个划分，且

，则全概率公式：

11、贝叶斯公式：A 为 E 的事件， S 为 E 的样本空间，

为 S 的一个划分，且

，则：

12、独立性：设 A，B 为 试验 E 的两个事件，A的发生对B发生的概率不影响，则称时间A，B相互独立互不影响，有一下性质：

第二章 随机变量及其分布

1、离散型随机变量：有限个或可列无限多个值的变量

2、分布律：设离散型随机变量 X 所有可能的取值为

, 则事件

的概率为：

且有

，则称

是随机变量 X 的分布律

3、0-1 分布：随机变量 X 只有 0 与 1 两个值，它的分布律是：

4、伯努利试验：设试验 E 只有 2 种可能，则称 E 为 伯努利试验，重复 n 次则是 n 重伯努利试验

5、二项分布：我们称随机变量 X 服从参数为 n，p 的二项分布，并记为 X~ b(n,p)，分布律：

,当 n = 1时，二项分布是 0 - 1 分布

6、泊松分布：设随机变量 X 所有可能取得值为0,1,2.... 而取各个值的概率为：

其中

是常数，则称 X 服从参数

的泊松分布，记为

6.1、泊松定理：设

是一个常数，n 是任意正整数，设

, 则对于任一个固定的非负整数 k，有：

7、分布函数：由于非离散型变量无法像离散型变量一样使用分布律去描述它，所以设 X 是一个随机变量， x 是任意实数，函数

, 称为 X 的分布函数

7.1、对于任意实数

, 有：

7.2、F(x) 是 一个不减函数，

8、设随机变量 X 的分布函数 F(x) ，存在非负可积函数 f(x)，使对于任意实数 x 有：

，则称 X 为连续型随机变量，f(x) 称为 X 的概率密度函数，简称概率密度

9、概率密度函数从 x1 到 x2 的积分（即面积）等于 分布函数 F(x2 - x1) 的概率

10、当我们提到一个随机变量 X 的概率分布时，指的是它的分布函数，或者，当 X 是连续型随机变量时，指的是它的概率密度的积分，当 X 是离散型随机变量时，指的是它的分布律

11、均匀分布：若连续型随机变量 X 具有概率密度函数：

，则称 X 在区间 (a,b) 上服从均匀分布。记,为 X ~ U ( a, b )

12、指数分布：若连续型随机变量 X 的概率密度函数为：

，其中

为常数，则称 X 服从参数为

的指数分布

13、正态分布/高斯分布：若连续型随机变量 X 的概率密度函数为：

其中

为常数，则称 X 服从参数为

的正态分布/高斯分布，记为

随机变量函数的分布：假设有随机变量 Y = g(x) , g(x)=2x，那么 随机变量 Y 可根据 随机变量 x 的分布推导，那么

二维随机变量：假设要调查某地区学龄前儿童的发育情况，样本空间 S 是某地区全部学龄前儿童，而 学龄前儿童的 身高 与 体重 就是 S 上的两个随机变量

二维随机变量变量的分布函数：设（X, Y）是二维随机变量，对于任意实数 x，y 二元函数：

，称为随机变量 X 和 Y 的联合分布

离散型二维随机变量联合分布函数：

连续型二维随机变量联合分布函数：

边缘分布：有二维随机变量（X, Y）的分布函数 F(X, Y) ,而 对于 X ， Y 它们有各自相对应的分布函数 F(X), F(Y)

离散型边缘分布律：

，F(y) 类比

连续型边缘分布概率密度函数：

,

条件分布律：设 (X, Y) 是二维离散型随机变量，对于固定的 j ，若

, 则称：

i在

条件下随机变量 X 的条件分布律

连续型条件概率密度：固定

,则称

为 Y=y 的条件下的 X 的条件概率密度，记为

。其中

为二维随机变量概率密度函数，

为关于 Y 的边缘概率密度函数

二维随机变量独立性：假设有

则称 X 和 Y 相互独立

第四章 随机变量的数字特征

1、数学期望：设离散型随机变量 X 的分布律为：

若级数

绝对收敛，则称级数

的和为随机变量 X 的数学期望，记为 E(X)，即

，数学期望简称 期望， 又称为 均值

2、设连续型随机变量 X 的概率密度函数为 f(x)，若积分

绝对收敛，则称

的值为随机变量 X 的数学期望，记为 E(X)，即：

3、连续型二维随机变量函数Z = g(x,y) 分布期望：

4、离散型二维随机变量函数 Z = g(x,y) 分布期望：

5、数学期望的几个重要性质：

5.1、设 C 是常数，则有 E(C)=C

5.2、设 X 是一个随机变量， C 是常数，则有：E(CX)=CE(X)

5.3、设 X ，Y 是 两个随机变量，则有 E(X + Y)=E(X) + E(Y)

5.4、设 X,Y 是相互独立的随机变量，则有： E(XY)=E(X)E(Y)

6、方差：衡量随机变量与其均值 E(X) 的偏离程度，记为：

6.1、离散型：

6.2、连续型：

7、标准差/均方差：

8、方差的几个重要性质：

8.1、设 C 是常数，则 D(C)=0

8.2、设 X 是随机变量， C 是常数，则有

8.3、设 X,Y 是两个随机变量，则有

9、切比雪夫不等式：设随机变量 X 具有数学期望

，方差

，则对于任意正数

，不等式：

9.1、切比雪夫不等式证明：

由于

所以

，故 有

，其中

为连续型方差公式，故有

10、协方差：用于衡量随机变量 X 与 Y 的独立关系，记为：

若：Cov(X,Y)=0 ，则 X，Y 相互独立，否则不相互独立

称为随机变量 X 与 Y 的相关系数

性质：

当

时，X，Y 不相关

11、设（X, Y）是二维随机变量，若：

存在，称它为 X 的 k 阶原点矩，简称 k 阶矩

12、若

存在，成它为 X 的 k 阶中心矩

13、若

存在，成它为 X 和 Y 的 k+l 混合矩

14、若

存在，称它为 X 和 Y 的 k+l 阶混合中心矩，显然 X 的数学期望是 X 的一阶原点矩， X 的方差是 X 的 2阶中心矩，协方差是 X 和 Y 的 二阶混合中心矩

15、设二维随机变量 (X, Y) ，其二阶中心矩为：

将它们排列成矩阵形式就是，二维随机变量 (X, Y) 的协方差矩阵

16、最大似然估计法：

,

，可估计分布律，如：0 - 1 分布的概率 p ，也可估计高斯分布的

以及泊松分布的

17、置信区间：设分布函数

含有一个未知参数

,通过数据求出

的两个值

,对于任意

满足：

，则称随机区间

是

的置信水平为

的置信区间，

称为置信下限，

称为置信上限，

称为置信水平