【机器学习】隐马尔可夫模型（上）——定义及相关概率计算

                       

前言：隐马尔可夫模型（Hidden Markov Model, HMM）是可用于标注问题（即输入输出都是离散序列的监督学习问题）的统计学模型，描述由隐藏的马尔可夫链随机生成观测序列的过程，属于生成模型。本文首先介绍马尔可夫过程和隐马尔可夫模型的基本概念，然后分别叙述和实现隐马尔可夫模型的概率计算算法、学习算法以及预测算法。

一、马尔可夫过程
马尔可夫过程 (Markov Process)，因俄罗斯数学家安德烈 · 马尔可夫而得名，代表数学中具有马尔可夫性质的离散随机过程。该过程中，每个状态的转移只依赖于之前的 n 个状态，这个过程被称为1个 n 阶的模型，其中 n 是影响转移状态的数目。我们称该过程具有马尔可夫性或无后效性。通俗的说，在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。最简单的马尔科夫过程就是一阶过程，每一个状态的转移只依赖于其之前的那一个状态。注意这和确定性系统不一样，因为这种转移是有概率的，而不是确定性的。时间和状态都是离散的马尔可夫过程就称为马尔可夫链，记为{X n =X(n),n=0,1,2,⋯} {Xn=X(n),n=0,1,2,⋯}是对应的观测序列.

I=(i 1 ,i 2 ,⋯,