Summary
从最开始学习算法的时候就时长听说这个算法,今天抽空我们来系统聊聊这个,如果给HMM归一下类那么它属于概率图模型(PGM)范畴,Probabilistic Graphical Models(PGM)从字意上也能看出来它是概率论和图论相结合起来了,可以看成概率和图结合起来形成了一种新的数据结构来解决新的问题,在处理复杂问题和不确定性问题方面很有优势,目前在图像处理和视频等领域已经有非常广泛的应用,而今天我们要分析的HMM也是概率图的一种,另外还有一种叫贝叶斯网络,以后再说。
theory foundation
随机过程是依赖于参数的一族随机变量的全体,参数通常是时间维度,随机变量呢即某一现象的体现,如我们每天吃的食物的多少,今天吃了1kg明天如果饿可能吃1.5kg,我们把随时间变化的量抽象出来即随时间变化的一组随机变量,也成为随机过程,这个方向的研究产生于20世纪末,那么这一研究的价值在哪里呢?
在研究随机过程时人们透过表面的偶然性描述出必然的内在规律并以概率的形式来描述这些规律,从偶然中悟出必然正是这一学科的魅力所在。
Markov process
这次不拿吃饭了,拿大部分人都参与的事情股票为例,如果我们从一系列的随机过程中能抽象出来必然规则,那么你岂不是发财了,哈哈
在研究随机过程理论时常常赋予每个随机事件一个概率,我们更关注的是未来某件事发生不发生的概率,随机过程本来是一件普通平常的事情,不过如果对过程里面的概率做各种假设,就会得到各种特殊的随机过程,那时俄国数学家 马尔科夫也假设了一种情况,他认为随机过程中每个时间发生的概率与其它事件无关,只有当前时间或条件有关,来看一下数学表述:
以后人们就称具有这种性质的过程为马尔科夫过程。
Hidden Markov Model
以网上经常拿出来说得例子为例,简化假设天气状况有下雨天rainy、晴天sunny两种状态,天气状态相当于一个状态集合,在一个系统中一般事件是有概率的,可以将这一过程称为马尔科夫过程,明天是否下雨只与今天有关&#x