目录
图片来源:Ergodic Theory and Fractal Days, a report by Sara Munday – European Women in Mathematics
关于数学的内容,我写了以下笔记。
【工程数学】笔记3:数字信号处理_苹果二的博客-CSDN博客
【工程数学】笔记2:数学物理方程_苹果二的博客-CSDN博客
【工程数学】笔记1:复变函数和积分变换_苹果二的博客-CSDN博客
【学习资源】机器学习相关的数学参考资料_苹果二的博客-CSDN博客
今天来写随机过程(Random Processes or Stochastic processes)。现实世界中,随机现象随时间演变,存在概率规律性,即为随机过程,如何处理随机过程的复杂性,一起来看看随机过程的理论和应用吧。
1 基本概念
随机变量:通过随机实验确定的实数。例如将不断抽签直到中奖时所需的抽签次数。随机变量以数量形式描述随机现象。
随机试验(randomtrial或random experiment):是在相同条件下对某随机现象进行的大量重复观测,目的是研究随机现象的统计规律性。
期望是用来表示随机变量的典型性状。计算期望可以将随机变量按概率的加权平均,表征其概率分布的中心位置。特别地,随机积分和条件期望是金融数学的关键工具。
随机变量的分布函数:随机变量取特定值的概率,描述了随机变量的统计规律。
随机变量的特征函数:可用于计算随机变量的矩阵以及求独立随机变量和的分布函数。
随机过程的数字特征:包括数学期望、方差、变异系统、协方差、相关系数、矩、分位数和众数等。
随机过程在任一时刻的状态是随机变量,因此可以利用随机变量的描述方法即分布函数和数字特征等方法来描述随机过程的统计特性。
随机过程可以按照它本身的统计特性分成很多类,例如马尔可夫过程、更新过程、高斯过程、平稳过程、鞍等等。如果随机过程在不相重叠的区间上增量是相互独立的,则为独立增量过程,独立增量包括泊松过程和布朗运动。
平稳过程:统计特性是当过程随时间的推移而变化时,其前后状态间是相互联系的,这种联系不随时间的推移而改变。如纺织过程中棉纱截面积的变化,通讯过程中噪声干扰,飞机在空中平稳飞行时的随机波动。
按照时间参数和状态空间,随机过程可分为4类,即离散时间和离散状态的过程,离散时间和连续状态的过程,连续时间和连续状态的过程,连续时间和离散状态的过程。
2 工具和技术
研究随机过程需要掌握以下基础知识:概率论、线性代数、数值分析、复变函数与积分变换。
布朗运动
布朗运动的数学模型是wiener process,是Wiener根据爱因斯坦的布朗运动物理模型构建的,研究了单个质点的随机运动规律。空气污染扩散和股票价格波动现象就是典型的布朗运动。布朗运动是量子力学、概率统计和金融证券中重要的随机过程。
泊松过程
泊松过程可以解决无限服务台队列问题,相遇次数最小化问题,估计感染某种病毒携带者人数。更新过程是泊松过程的推广。更新过程是一种计数过程,其等待间隔时独立同分布的随机变量,但并不服从指数分布,设备易损部件的更新都是一种更新过程。更新过程如果具有平稳增量性和独立增量性就可能是泊松过程。
马尔可夫过程
马尔可夫过程是非常重要的随机过程,在计算数学、金融经济、生物、化学、管理科学乃至人文科学都有广泛的应用。离散时间马尔可夫链可用于解决赌徒破产问题,赌徒破产问题也可以应用于检查药物试验的优良性。简单排队问题是马尔可夫过程在动力学系统建模和分析中的应用。
3 常见应用
评价互联网网站知名度的方法PageRank采用了马尔可夫链,并使用转移速率矩阵计算出连续时间马尔可夫链的平稳不变分布,根据平稳分布以获得更合理的网站排序。
在自然语言处理中的应用
马尔可夫过程在自然语言处理中有着广泛的应用。例如,隐马尔可夫模型HMM被用于自然语言处理的词性标注(Part-of-Speech tagging 或 POS tagging),即是确定句子中的每个词是名词、动词、形容词或其他词性的过程。
在精算中的应用
由于股票市场指数波动与粒子运动近似,随机过程理论可以用来解决金融的传统的寿险与非寿险问题,处理非传统的保险产品定价问题,金融与投资理论中的数理金融理论,如平稳独立增量过程在数理金融中得到了重要应用。
随机过程可以用来解决比较复杂的涉及多个生命以及多种状态的寿险。建立模型时要平衡表达现实和易于使用两个方面。马尔可夫链能够描述影响保单进展的各种机制,也可以用来描述利率力。
随机过程理论的鞅可以帮助理解非寿险保单的定价。应用拉氏(Laplace)变换可以求解经典风险模型的破产概率。
在系统维修中的应用
采用更新理论解决系统维修问题。可用来求年龄与剩余寿命,以便确定单位时间内的平均成本。
4 参考资料
- 何书元. 随机过程 (北京大学数学教学系列丛书) . 北京大学出版社. Kindle Edition.
- 张帼奋. 概率论数理统计与随机过程 . 浙江大学出版社. Kindle Edition. 这本书的习题取材现实问题,具有实际意义。
-
张连增. 精算学中的随机过程. 高等教育出版社. Kindle Edition.
- Random Process for Engineers 作者Bruce Hajek,本书是为伊利诺伊大学香槟分校(University of Illinois at Urbana-Champaign)电子与计算机工程系(Department of Electrical and Computer Engineering)的随机过程研究生第一学期课程所写,有助于理解系统工程的各种技术文献,包括控制系统、信号和图像处理、通信理论,以及各种网络和算法的分析。书籍链接是:http://www.ifp.illinois.edu/~hajek/Papers/randomprocJuly14.pdf
- 纳西姆·尼古拉斯·塔勒布《随机漫步的傻瓜》
图片来源:Kindle
《黑天鹅》作者塔勒布在《随机漫步的傻瓜》 一书里,用非数学的方法描述了随机过程,很值得一读。
希望以上的总结能启发大家。愿工程师们能灵活运用工程数学解决问题,做出自己的作品。