概率分布(英语:probability distribution)或简称分布(distribution),是概率论的一个概念。使用时可以有以下两种含义:
称 X 和 Y 为同分布的随机变量,当且仅当对任意事件,有成立。
但是,不能认为同分布的随机变量是相同的随机变量。事实上即使 X 与 Y 同分布,也可以没有任何点ω使得 X(ω)=Y(ω) 。在这个意义下,可以把随机变量分类,每一类称作一个分布,其中的所有随机变量都同分布。用更简要的语言来说,同分布是一种等价关系,每一个等价类就是一个分布。需注意的是,通常谈到的离散分布、均匀分布、伯努利分布、正态分布、泊松分布等,都是指各种类型的分布,而不能视作一个分布。
- 狭义地,它是指随机变量的概率分布函数。设 X 是样本空间上的随机变量,为概率测度,则称如下定义的函数是 X 的分布函数(distribution function),或称累积分布函数(cumulative distribution function,简称CDF):
,对任意实数 a 定义。
具有相同分布函数的随机变量一定是同分布的,因此可以用分布函数来描述一个分布,但更常用的描述手段是概率密度函数(probability density function, pdf)。
- 在常用的文献中,“分布”一词可指其广义和狭义,而“累计分布函数”或“分布函数”一词只能指称后者。为了不致混淆,下文中谈及上述的广义时使用“分布”一词;狭义时使用“分布函数”一词。
目录[隐藏] |
[编辑]分布函数的性质刻划
对于特定的随机变量 X,其分布函数FX是单调不减及右连续,而且,。这些性质反过来也描述了所有可能成为分布函数的函数:
- 设 且单调不减、右连续,则存在概率空间及其上的随机变量 X ,使得 F 是 X 的分布函数,即 FX = F
[编辑]随机变量的分布
设P为概率测度,X为随机变量则函数 () 称为X的概率分布函数.如果将X看成是数轴上的随机点的坐标,那么,分布函数F(x)在x处的函数值就表示X落在区间上的概率。
例如,设随机变量X为掷两次骰子所得的点数差,而整个样本空间由36个元素组成。
数量 | ( i , j )∈ S | x | P(X = x) | F(x) |
---|---|---|---|---|
6 | ( 1,1 ),( 2,2 ),( 3,3 ) ( 4,4 ),( 5,5 ),( 6,6 ) | 0 | 6/36 | 6/36 |
10 | ( 1,2 ),( 2,3 ) ( 3,4 ),( 4,5 ),( 5,6 ) ( 2,1 ),( 3,2 ),( 4,3 ) ( 5,4 ),( 6,5 ) | 1 | 10/36 | 16/36 |
8 | ( 1,3 ),( 2,4 ),( 3,5 ) ( 4,6 ),( 3,1 ),( 4,2 ) ( 5,3 ),( 6,4 ) | 2 | 8/36 | 24/36 |
6 | ( 1,4 ),( 2,5 ),( 3,6 ) ( 4,1 ),( 5,2 ),( 6,3 ) | 3 | 6/36 | 30/36 |
4 | ( 1,5 ),( 2,6 ) ( 5,1 ),( 6,2 ) | 4 | 4/36 | 34/36 |
2 | ( 1,6 ),( 6,1 ) | 5 | 2/36 | 36/36 |
其分布函数是:
[编辑]离散分布
上面所列举的例子都属于离散分布,即分布函数的值域是离散的,比如只取整数值的随机变量就是属于离散分布的。F(x)表示随机变量的概率值。如果 X的取值只有x1 < x2 < ... < xn, 则:
[编辑]均匀分布
[编辑]二项分布
二项分布是最重要的离散概率分布之一,由瑞士数学家雅各布·伯努利(Jakob Bernoulli)所发展,一般用二项分布来计算概率的前提是,每次抽出样品后再放回去,并且只能有两种试验结果,比如黑球或红球,正品或次品等。二项分布指出,随机一次试验出现的概率如果为p,那么在n次试验中出现k次的概率为:
例如,在掷3次骰子中,不出现6点的概率是:
在连续两次的轮盘游戏中,至少出现一次红色的概率为:
二项分布在p = 0.5时表现出图像的对称性,而在p取其它值时是非对称的。另外二项分布的期望值 ,以及方差
[编辑]二项分布和正态分布
见下面的正态分布
[编辑]几何分布
[编辑]超几何分布
作为离散概率分布的超几何分布尤其指在抽样试验时抽出的样品不再放回去的分布情况。在一个容器中一共有N个球,其中M个黑球,(N − M)个红球,通过下面的超几何分布公式可以计算出,从容器中抽出的n个球中( 抽出的球不放回去 )有k个黑球的概率是多少:
例如,容器中一共10个球,其中6个黑色,4个白色,一共抽5次( 抽出的球不放回去 ),在这5个球中有3个黑球的概率是:
[编辑]超几何分布和二项分布的关系
和二项分布不同的是,在超几何分布中,特别强调的是抽出的样品在下一次抽取前不再放回去,但是如果抽取的次数n和总共样品数N相比很小 ( 大约n / N < 0,05 ),这时在计算上二项分布和超几何分布相互间则没有主要的区别,此时人们更愿意采用二项分布的方法,因为在数学计算上二项分布要简单一些。
[编辑]泊松近似
泊松近似是二项分布的一种极限形式。其强调如下的试验前提:一次抽样的概率值p相对很小,而抽取次数n值又相对很大。因此泊松分布又被称之为罕有事件分布。泊松分布指出,如果随机一次试验出现的概率为p,那么在n次试验中出现k次的概率按照泊松分布应该为:
其中数学常数e = 2.71828...( 自然对数的底数)
例如,某工厂在生产零件时,每200个成品中会有1个次品,那么在100个零件中最多出现2个次品的概率按照泊松分布应该是:
在实践中如果遇到n值很大导致二项分布难于计算时,可以考虑使用泊松分布,但前提是必须趋于一个有限极限。[来源请求]是:
[编辑]连续分布
设X是具有分布函数F的连续随机变量,且 F 的一阶导数处处存在,则其导函数
称为X的机率密度函数。
每个机率密度函数都有如下性质:
第一个性质表明,机率密度函数与x轴形成的区域的面积等于1,第二个性质表明,连续随机变量在区间[a,b]的概率值等于密度函数在区间[a,b]上的积分,也即是与X轴在[a,b]内形成的区域的面积。因为,且f(x)是F(x)的导数,因此按照积分原理不难推出上面两个公式。
正态分布、指数分布、t-分布,F-分布以及Ξ2-分布都是连续分布。
[编辑]均匀分布
[编辑]指数分布
[编辑]伽马分布
[编辑]正态分布
连续随机变量的机率密度函数如果是如下形式,
那么这个连续分布被称之为正态分布,或者高斯分布。其密度函数的曲线呈对称钟形,因此又被称之为钟形曲线,其中μ是平均值,σ是标准差。正态分布是一种理想分布,许多典型的分布,比如成年人的身高,汽车轮胎的运转状态,人类的智商值(IQ),都属于或者说至少接近正态分布。同样按照连续分布的定义,正态机率密度函数具有和普通机率密度函数类似的性质:
如果给出一个正态分布的平均值μ以及标准差σ,可以根据上面的第二个公式计算出任一区间的概率分布情况。但是如上的计算量是相当庞大的,没有计算机的辅助基本是不可能的,解决这一问题的方法是借助z-变换以及标准正态分布表格 ( z-表格)。
中间值μ = 0以及标准差σ = 1的正态分布被称之为标准正态分布,其累积分布函数是
将普通形式的正态分布变换到标准正态分布的方法是
例如,已知一正态分布的μ = 5,σ = 3,求区间概率值计算过程如下,
其中Φ(z)值通过查z-表格获得。
[编辑]正态分布和二项分布
在离散分布中如果试验次数n值非常大,而且单次试验的概率p值又不是很小的情况下,正态分布可以用来近似的代替二项分布。一个粗略的使用正态分布的近似规则是:。
从二项分布中获得μ和σ值的方法是
- 期望值
- 标准差
如果σ > 3,则必须采用下面的近似修正方法:
( 注:q = 1 − p , EF:二项分布,ZF:正态分布)
上( 下 )临界值分别增加( 减少)修正值0.5的目的是在σ值很大时获得更精确的近似值,只有σ很小时,修正值0.5可以不被考虑。
例如,随机试验为连续64次掷硬币,获得的国徽数位于32和42之间的概率是多少?用正态分布计算如下,
,符合近似规则,应用z-变换:
在运用z- 表格时注意到利用密度函数的对称性来求出z为负值时的区域面积。