第一章 预备知识
概率空间；随机变量及其分布；随机变量的数字特征；特征函数、母函数和拉氏变换；Ｎ维正态分布；条件期望。
注：摘抄和笔记为蓝字。
随机试验是概率论的基本概念，试验的结果事先不能准确地预言，但具有如下的三个特性：
（１）可以在相同的条件下重复进行；（２）每次试验的结果不止一个，但预先知道试验的所有可能的结果；（３）每次试验前不能确定哪个结果会出现。
样本空间：随机试验所有可能结果组成的集合。又称：基本事件空间，记为ＯＭＩＧＡ。
样本点：为ＯＭＩＧＡ中的元素Ｅ。又称基本事件。
事件：ＯＭＩＧＡ的子集，用Ａ表示。
必然事件：样本空间ＯＭＩＧＡ。
不可能事件：空集ＰＨＩ。
在实际问题中，我们不是对所有的事件（样本空间ＯＭＩＧＡ的所有子集）都感兴趣，而是关心某些事件（ＯＭＩＧＡ的某些子集）及其发生的可能性大小（概率），这样，便导致ＲＯ－代数ＢＩＧ－Ｆ和ＢＩＧ－Ｆ上的概率的概念。
设ＯＭＩＧＡ是一个集合，ＢＩＧ－Ｆ是ＯＭＩＧＡ的某些子集组成的集合族。如果满足：
（１）ＯＭＩＧＡ属于ＢＩＧ－Ｆ；
（２）若Ａ属于ＢＩＧ－Ｆ，则非Ａ＝ＯＭＩＧＡ/Ａ属于ＢＩＧ－Ｆ；
（３）若Ａn属于ＢＩＧ－Ｆ，Ｎ＝１，２……，则Ａn（Ｎ从１到正无穷大）的并集属于ＢＩＧ－Ｆ，
则称ＢＩＧ－Ｆ为ＲＯ－代数（ＢＯＲＥＬ域）。
（ＯＭＩＧＡ，ＢＩＧ－Ｆ）称为“可测空间”，ＢＩＧ－Ｆ中的元素称为 事件。
－－－
定义１、２、设（ＯＭＩＧＡ，ＢＩＧ－Ｆ）是可测空间，Ｐ（·）是定义在ＢＩＧ－Ｆ上的实值函数。
如果
（１）任意Ａ属于ＢＩＧ－Ｆ，０<=P(A)<=1；
（２）Ｐ（ＯＭＩＧＡ）＝１；
（３）对两两互不相容事件Ａ１，Ａ２，……（当Ｉ<>J时，ＡＩ交ＡＪ＝ＰＨＩ），有
Ｐ（ＡＩ求和，Ｉ从０到正无穷大）＝｛Ｐ（ＡＩ），从Ｉ＝１到正无穷大｝。则称
Ｐ是（ＯＭＩＧＡ，ＢＩＧ－Ｆ）上的概率，（ＯＭＩＧＡ，ＢＩＧ－Ｆ，Ｐ）称为 概率空间。Ｐ（Ａ）为事件Ａ的概率。
独立性：
设｛Ｘ，t 属于Ｔ｝是一族随机变量，若对于任意Ｎ大于等于２，和t1,t2,.....tn属于Ｔ，x1,x2,....xn属于R，有：
Ｐ（ＸＴ１小于等于Ｘ１，……，ＸＴＮ小于等于ＸＮ）＝边乘（Ｐ（ＸＴＩ小于等于ＸＩ），
则｛Ｘt，t 属于T｝是独立的。
不可能事件：空集ＰＨＩ。
下面是《随机变量的数字特征》的内容……
数学期望，或称均值： ＥＸ＝积分（从负无穷大，到正无穷大的区间）x d（Ｆ（x ）），讨论的是连续型随机变量。
上式右边的积分称为 Lebesgue-Stieltjes积分。
若Ｘ是离散型随机变量，则 ＥＸ＝累加（范围从１到正无穷大）XK＊pk。硕士课程的合格分数是加权平均值大于７５分，这个计算的办法可类比。
方差：ＤＸ＝Ｅ（Ｘ－ＥＸ）的平方。称为Ｘ的方差。随机变量的方差，反映随机变量取值的离散程度。
协方差：设Ｘ，Ｙ是随机变量，Ｅ（Ｘ的平方）小于正无穷大，Ｅ（Ｙ的平方）小于正无穷大，
则称Ｂxy＝Ｅ［（Ｘ－ＥＸ）（Ｙ－ＥＹ）］为Ｘ、Ｙ的协方差。
而：ＲＯxy＝Ｂxy／（（ＤＸ开平方）＊（ＤＹ开平方））称为Ｘ、Ｙ的相关系数。
倘若ＲＯxy=0，Ｘ、Ｙ不相关。相关系数 ＲＯxy表示Ｘ、Ｙ之间的线性相关程度的大小。
特征函数：g( t )＝e的itx次方，对dＦ（x），在区间从负无穷大到正无穷大的求积分。它是实变量 t 的复值函数。它有６条常见的性质。
条件概率密度：f ( x| y) ＝f ( x, y) /fy (y)。
给定Ｙ＝y时，Ｘ的条件分布函数为：Ｆ（x | y ）＝f ( x | y )对dx，从负无穷大到x的积分。
给定Ｙ＝y时，Ｘ的条件期望定义为：Ｅ（Ｘ｜Ｙ＝y）＝x＊f ( x | y )对dx，的不定积分。
第二章 随机过程的概念与基本类型
２、１、随机过程的基本概念
２、２、随机过程的分布律和数字特征
２、３、复随机过程
２、４、几种重要的随机过程
摘录：
初等概率论研究的主要对象，是一个或者有限个随机变量（或随机向量），虽然有时我们也讨论了随机变量序列，但假定序列之间是相互独立的。
随着科学技术的发展，我们必须对一些随机现象的变化过程进行研究，这就必须考虑无穷个随机变量；
而且解决问题的出发点不是随机变量的Ｎ个独立样本，而是无穷多个随机变量的一次具体观测。
这时，我们必须用一族随机变量，才能刻划这种随机现象的全部统计规律性。
通常，我们称随机变量族，为随机过程。
例子：某电话交换台在时间段［０，Ｔ］内接到的呼唤次数是与Ｔ有关的随机变量Ｘ（Ｔ），对于固定的Ｔ，Ｘ（Ｔ）是一个取非负整数的随机变量，故｛Ｘ（Ｔ），Ｔ属于０到无穷大｝是随机过程。
例子：在天气预报中，若以ＸＴ表示某地区第Ｔ次统计所得到的该天最高气温，则ＸＴ是随机变量。为了预报该
地区未来的气温，我们必须研究随机过程｛ＸＴ，Ｔ＝０，１……｝Ｒ 统计规律性。
随机过程之……
定义：设（ＯＭＩＧＡ，ＢＩＧ－Ｆ，Ｐ）是概率空间，Ｔ是给定的参数集，若对每个 t 属于Ｔ，有一个随机变量
Ｘ（t ， e）与之对应，则随机变量族｛Ｘ（t ， e）， t 属于Ｔ｝是（ＯＭＩＧＡ，ＢＩＧ－Ｆ，Ｐ）上的随机过程，简记为随机过程｛ Ｘ（t）， t 属于Ｔ｝，Ｔ称为参数集，通常表示时间。
通常将随机过程｛ Ｘ（t）， t 属于Ｔ｝解释为一个物理系统。 Ｘ（t）表示系统在时刻 t 所处的状态。 Ｘ（t）的所有可能状态所构成的集合，称为状态空间或相空间，记为Ｉ。
从数学的观点来说，随机过程｛ Ｘ（t ，e）， t 属于Ｔ｝是定义在Ｔ＊ＯＭＩＧＡ上的二元函数。
对固定的 t 来说，Ｘ（t ，e）是（ＯＭＩＧＡ，ＢＩＧ－Ｆ，Ｐ）上的随机变量；
对固定的 e 来说，Ｘ（t ，e）是定义在Ｔ上的普通函数，称为随机过程｛ Ｘ（t ，e）， t 属于Ｔ｝的一个样本函数或轨道，样本函数的全体称为样本函数空间。
根据参数Ｔ及状态空间Ｉ是 可列集，或非可列集，可以把随机过程分为以下四种类型：
（１）Ｔ和Ｉ都是可列的；（２）Ｔ非可列，Ｉ可列；（３）Ｔ可列，Ｉ不可列；（４）Ｔ和Ｉ均不可列。
参数Ｔ可列的（１）和（３）情形的随机过程也称为随机序列或时间序列，一般用｛Ｘt，t ＝０，正负１，正负２……｝。
除了上述的这种随机过程的分类方法之外，还可以根据Ｘt 之间的概率关系进行分类，如独立增量过程，马尔可夫过程，平稳过程，鞅过程等。
２、２、随机过程的分布律和数字特征
研究随机现象，主要是研究它的统计规律性。我们知道，有限个随机变量的统计规律性完全由它们的联合分布函数所刻划。由于随机变量可视为一族（一般是无穷多个）随机变量，我们是否也可以用一个无穷维联合分布函数来刻划其统计规律性呢？
由概率论的理论可知，使用无穷维分布函数的方法是行不通的，可行的办法就是采用有限维分布函数族来刻划随机过程的统计规律性。
定义２、２、 有限维分布函数族
设ＸＴ＝｛Ｘ（t），t属于T｝是随机过程，对任意n>=1和 t1,t2,……tn属于T，
随机向量（Ｘ(t1),Ｘ(t２)，……Ｘ(tn)）的联合分布函数为
Ｆt1,……tn(x1,x2,......xn)=P{X(t1)<=x1,.....X(tn)<=xn｝。
这些分布函数的全体
Ｆ＝｛Ｆt1,……tn(x1,x2,......xn)， t1,t2,……tn属于T，n>=1｝
称为ＸＴ＝｛Ｘt, t属于T｝的有限维分布函数。
－－－
显然，随机过程ＸＴ＝｛Ｘ（t），t属于T｝的有限维分布函数族Ｆ具有如下性质：
（１）对称性。（２）相容性。
对称性：对于｛t1,......tn｝的任意排列｛ti1,ti2,.....tin｝,F的下标t1,......tn(x1,x2,......xn)=F下标ti1，....tin(xti1,...xtin)。
相容性：当m<n时，
F下标t1,...tm(x1,x2,...xm)=F下标t1,...tm,...tn(x1,x2,...xm,无穷大，……无穷大）。
定理2、1、（KOLMOGOROV存在定理）
设已给参数集T及满足对称性和相容性条件的分布函数族，则必存在概率空间（OMIGA，BIG-F，P）及定义在上的
随机过程｛X(t), t 属于T｝，它的有限维分布函数族是Ｆ。
=============平稳过程
定义 ２·１２ 设｛Ｘ（t），t属于Ｔ｝是随机过程，
如果对任意常数ＴＡＯ和正整数n, t1,……tn属于Ｔ；
t1+tao,t2+tao,.......tn+tao属于Ｔ，
（Ｘ（t1），Ｘ（t2），......Ｘ（tn）） 与 （Ｘ（t1+tao），Ｘ（t2+tao）......Ｘ（tn+tao）有相同的联合分布，则称｛Ｘ（t），t属于Ｔ｝为严平稳过程，也称为狭义平稳过程。
严平稳过程描述的物理系统，其任意的有限维分布不随时间的推移而改变。
定义２·１３ 设｛Ｘ（t），t属于Ｔ｝是随机过程，如果
（１）｛Ｘ（t），t属于Ｔ｝是二阶矩过程；
（２）对任意 t属于Ｔ，mx(t)=EX(t)=常数；
（3）对任意s,t 属于Ｔ，Rx(s,t)=E[X(s)X(t)]=Rx(s-t)，则称｛Ｘ（t），t属于Ｔ｝为广义平稳过程，简称为平稳过程。
第三章 泊松过程
３、１、泊松过程的定义和例子
３、２、泊松过程的基本性质
３、３、非齐次泊松过程
３、４、复合泊松过程
摘录：
定义３·１ 称随机过程｛Ｎ（t ），t 大于等于０｝为计数过程，若
Ｎ（t ）表示到时刻 t 为止已发生的“事件Ａ”的总数，且Ｎ（t ）满足下列条件：
（１）Ｎ（t ）>=０；（２）Ｎ（t ）取正整数；（３）若 s < t，则Ｎ（s ）小于等于Ｎ（t ）；
（４）当 s < t 时，
Ｎ （t ）－Ｎ（ s ），等于区间（s ，t ］中发生的“事件Ａ”的次数。
定义３·２ 称计数过程｛Ｘ（t ），t >=０｝为具有参数ＮＡＭＡＴＡ> ０的泊松过程，若它满足下列条件：
（１）Ｘ（０）＝０；（２）Ｘ（t）是独立增量过程；
（３）在任一长度为 t 的区间中，事件Ａ发生的次数服从参数ＮＡＭＡＴＡ>０的泊松分布，
即对任意 s ，t>=０，有
Ｐ{Ｘ（t + s）－Ｘ（s）＝n} ＝ e ^(-ＮＡＭＡＴＡ＊ t ） ＊
（ＮＡＭＡＴＡ＊ t ）^n ／n 的阶乘。
－－－
注意从条件（３）知泊松过程是平稳增量过程，且Ｅ［Ｘ（ t ）］＝ＮＡＭＡＴＡ ＊ t 。
由于ＮＡＭＡＴＡ＝Ｅ［Ｘ（ t ）］／t 表示单位时间内事件Ａ发生的平均个数，故称ＮＡＭＡＴＡ为此过程的速率或强度。
定义３·３ 验证上述的条件（３）是非常困难的，我们给出泊松过程的另一个定义。
称计数过程｛Ｘ（t ），t 大于等于０｝为具有参数ＮＡＭＡＴＡ> ０的泊松过程，若它满足下列条件：
（１）Ｘ（０）＝０；（２）Ｘ（t）是独立、平稳增量过程；
（３）Ｘ（t）满足下面两式：
Ｐ｛Ｘ（t + h）－Ｘ（t ）＝１｝ =ＮＡＭＡＴＡ＊ h ＋Ｏ（h）；
Ｐ｛Ｘ（t + h）－Ｘ（t ）>=２｝ 等于Ｏ（h）。
条件（３）说明，在充分小的时间间隔内，最多有一个事件发生，而且不能有两个或两个以上的事件同时发生。
例子３、１、：考虑某电话交换台在某段时间接到的呼叫。
令Ｘ（t ）表示电话交换台在（０，t ］内收到的呼叫次数，则｛Ｘ（t ），t 大于等于０ ｝是一个泊松过程。
例３、２、考虑来到某火车站售票窗口购买车票的旅客。
若记Ｘ（t）为时间（0，t]内到达售票窗口的旅客数，则｛X（t),t>=0｝为一个泊松过程。
－－－
泊松过程的基本性质：
１、数字特征：
Ｅ［Ｘ（t）］ ＝ Ｅ［Ｘ（t）－Ｘ（０）］＝ＮＡＭＡＴＡ＊t。（３·４式）
一般地，泊松过程的协方差函数可以表示为：Ｂx（s, t）＝ＮＡＭＡＴＡ＊min（s，t）。
泊松过程的特征函数为： gx（u） ＝Ｅ［e的 (i* u * X(t))次方］＝exp { namata* t * (e的i*u-1)。
２、时间间隔与等待时间的分布
定理３·２ 设｛Ｘ（t） ，t >=0｝是具有参数ＮＡＭＡＴＡ的泊松分布，｛Ｔn，n>=1｝是对应的时间间隔序列，则随机变量Ｔn（n=1,2,......）是独立同分布的均值为１／ＮＡＭＡＴＡ的指数分布。
定理３·３ 设｛Ｗn,n>=1｝是与泊松过程｛Ｘ（t）,t>=0｝对应的一个等待时间序列，则Ｗn服从参数为 n 和ＮＡＭＡＴＡ的ＴＡＯ分布，其概率密度为：
fwn(t) = namata * e^(-namata*t) * (namata * t)^(n-1), t>=0时;
fwn(t)=0,t<0时。式（３·７）
式（３·７）又称为爱尔兰分布，它是Ｎ个相互独立且服从指数分布的随机变量之和的概率密度。
定理３·４ 是关于到达时间的条件分布
设｛Ｘ（t）, t>=0｝是泊松过程，已知在［０，t］内事件Ａ发生Ｎ次，则这Ｎ次到达时间Ｗ１<Ｗ２，……<ＷＮ 与相应于Ｎ个［０，t］ 上均匀分布的独立随机变量的顺序统计量有相同的分布。
３·３ 非齐次泊松过程
推广泊松过程，允许时刻 t 的来到强度（或速率）是 t 的函数。
复制关于速率和强度的概念：由于ＮＡＭＡＴＡ＝Ｅ［Ｘ（ t ）］／t 表示单位时间内事件Ａ发生的平均个数，故称ＮＡＭＡＴＡ为此过程的速率或强度。
例３·９ 设某路公共汽车从早晨５时～晚上９时，有车发出。
乘客流量如下：５时按平均乘客为２００人／时计算；
５时～到８时乘客平均到达率按线性增加；
８时到达率为１４００人／时；
８时到１８时保持平均到达速率不变；
１８时到２１时从到达率１４００人／时按线性下降，到２１时为２００人／时。
假定乘客在不相重叠时间间隔内是相互独立的。
求１２时到１４时有２０００人来站乘车的概率， 并求这两小时内车站乘车人数的数学模型。
３·４ 复合泊松过程
定义３·５ 设｛Ｎ（t）,t>=0｝是强度为ＮＡＭＡＴＡ的泊松过程，｛Ｙk，k = 1,2,...｝是一列独立同分布的随机变量，且与｛Ｎ(t)， t>=0｝独立，令：
Ｘ（t） = Ｙk从K=1，到K=N（T）的累加和，t >=0。
则称｛Ｘ（t），t>=0｝为复合泊松过程。具体内容以后补充。
第四章 马尔可夫链
４、１、马尔可夫链的概念及转移概念
４、２、马尔可夫链的状态分布
４、３、状态空间的分解
４、４、ＰＩＪ的渐近性质和平稳分布
马尔可夫过程按其状态和时间参数是连续和离散的，可分为三类：
（１）时间、状态都是离散的马尔可夫过程，称为马尔可夫链。
（２）时间连续、状态离散的马尔可夫过程 ，称为连续时间的马尔可夫链。
（３）时间、状态都连续的马尔可夫过程。
马尔可夫链的定义：
设有随机过程｛Ｘn，n 属于T｝，若对于任意的整数 n 属于T，和任意的 i0，i1，i(n+1)属于Ｉ，条件概率满足：
Ｐ｛Ｘ（n+1）= i (n+1) ｜Ｘ0=i，……,Xn=i(n)｝＝Ｐ｛Ｘ（n+1）=i (n+1)｜Ｘn=i(n )｝，
则｛Ｘn,n属于T｝为马尔可夫链。
第五章 连续时间的马尔可夫链
５、１、连续时间的马尔可夫链
５、２、柯尔莫哥洛夫微分方程
５、３、生灭过程
第六章 平稳随机过程
６、１、平稳过程的概念和例子
其统计特性是，当过程随时间的变化而产生随机波动时，其前后状态是相互联系的，且这种联系不随时间的推延而改变。
６、２、联合平稳过程及相关函数的性质
６、３、随机分析
６、４、平稳过程的各态历经性
第七章 平稳过程的谱分析
平稳过程｛Ｘ（t），t 属于T｝的相关函数Rx（tao）在时间域上描述过程的统计特征；为描述平稳过程在频域上
的统计特征，需要引进谱密度的概念。
本章主要讨论平稳过程的谱密度及相关函数Rx（tao）的谱分析。
７、１、平稳过程的谱密度
谱密度的概念在平稳过程的理论和应用上都很重要。从数学上看，谱密度是相关函数的傅里叶变换，它的物理意义
是功率谱密度。
我们首先简要介绍普通时间函数x(t)的频谱、能谱密度的概念。
帕塞伐公式：积分区间为（负无穷大，正无穷大）的(x(t))^2的积分=
（1/2*pi)*{积分区间为（负无穷大，正无穷大）}的|Fx(omiga)|^2的积分。
若把x(t)看做是1欧姆电阻上的电流或电压，则左边的积分表示消耗在1欧姆电阻上的总能量。
右边的被积函数|Fx(omiga)|^2相应地称为 能谱密度。
帕塞伐公式，即可看做总能量的谱表示式。
实际问题中，大多数时间函数的总能量都是无限的，因而不能满足傅里叶变换条件，为此我们考虑平均功率及功率
密度。
７、２、谱密度的性质
７、３、窄带过程及白噪声过程的功率谱密度
７、４、联合平稳过程的互谱密度
７、５、平稳过程通过线性系统的分析
第八章 时间序列分析
８、１、ＡＲＭＡ分析
８、２、模型的识别
８、３、模型阶数的确定
８、４、模型参数的估计
８、５、模型的检验
８、６、平稳时间序列预报
８、７、非平稳时间序列及其预报
（以下摘自《随机信号分析与处理》）
2、３、平稳随机过程
随机过程可分为平稳和非平稳两大类，严格地说，所有过程都是非平稳的。但是，平稳过程的分析要容易
得多，而且在电子系统中，如果产生一个随机过程的主要物理条件在时间的进程中不改变，或变化极小，
可以忽略，则此信号可以认为是平稳的。如接收机的噪声电压信号，刚开机时由于电子元器件上温度的
变化，使得噪声电压在开始时有一段暂态过程，经过一段时间后，温度变化趋于稳定，这时的噪声电压
信号可以认为是平稳的。
２、３、１、平稳随机过程的定义
１、严格平稳随机过程
定义：如果随机过程Ｘ（t）的任意Ｎ维分布不随时间起点的不同而变化，即当时间平移Ｃ时，其任意的
Ｎ维概率密度不变化，则称Ｘ（t）是严格平稳的随机过程或称为狭义平稳随机过程。
对于严格平稳的随机过程，它的均值和方差是与时间无关的常数，而自相关函数只与t1,t2的差值有关。
严格平稳最基本的特征是，时间起点的平移不影响它的统计特性，即Ｘ（t）与Ｘ（t＋Ｃ）具有相同的统计
特性。
同样，对于随机序列，严格平稳的定义是相同的，即如果Ｘ（Ｎ）与Ｘ（Ｎ＋Ｃ）具有相同的统计特性，
那么，称Ｘ（Ｎ）为严格平稳的随机序列。
２、广义平稳随机过程
定义：如果随机过程Ｘ（Ｔ）的均值为常数，自相关函数只与ＴＡＯ＝Ｔ１－Ｔ２有关，即：
ＭＸ（Ｔ）＝ＭＸ，ＲＸ（Ｔ１，Ｔ２）＝ＲＸ（ＴＡＯ），ＴＡＯ＝Ｔ１－Ｔ２，
则称随机过程Ｘ（Ｔ）是广义平稳的。
对于随机序列Ｘ（Ｎ），如果：
ＭＸ（Ｎ）＝ＭＸ，
ＲＸ（Ｔ１，Ｔ２）＝ＲＸ（ＴＡＯ），ＴＡＯ＝Ｔ１－Ｔ２，
则称Ｘ（Ｎ）为广义平稳过程。
很显然，严格平稳的随机过程必定是广义平稳的，但广义平稳的随机过程不一定是严格平稳的。
２、５、随机过程的功率谱密度
前面研究了随机过程的统计特性，包括分布函数、概率密度、均值、方差和相关函数等，这些统计特性
都是从时域的角度进行分析的。对于确知信号，如果在时域分析较复杂，可以利用傅里叶变换转到频域
进行分析。同样，对于随机过程，也可以利用傅里叶变换来分析随机过程的频谱结构。不过，随机过程的
样本函数一般不满足傅里叶变换的绝对可积条件，而且，随机过程的样本函数往往并不具有确定的形状，
因此，不能直接对随机过程进行谱分析。但随机过程的平均功率一般总是有限的，因此可以分析它的功率谱。
|
我的消息(0/0) |
我的空间 
|
百度空间 |
百度首页 <script type="text/javascript"></script> |
退出 <script src="/ui/scripts/webImTip.js?v=1.4" type="text/javascript"></script> <script type="text/javascript"></script>
写新文章
编辑
1275
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
