通俗理解HMM

通俗理解HMM

        HMM是隐马尔可夫模型(Hidden Markov Model)的简写，隐马尔可夫模型是一种非常重要的机器学习模型，它以概率为背景，在科学研究与工程实践方面有着非常重要的地位，尤其是在自然语言处理领域。在自然语言处理领域，常用于标注问题，它描述由隐藏的马尔可夫链随机生成观测序列的过程，是一种生成模型，而且，它不仅可以用于自然语言处理领域，对于机器学习其他领域的应用也是非常的广泛，比如语音识别。

        在自然语言处理领域，主要的应用有词性标注(POS_TAG)、分词(Word_Tokenize)、命名体识别(NER)等序列标注问题。首先来看看HMM的定义。

        隐马尔可夫模型是关于时序的概率模型，描述先由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生的可见的观测随机序列的过程。在这个概念中，隐藏的马尔可夫链随机生成的状态的序列，成为状态序列(state sequence)。每个状态随机生成一个观测，于是便产生了能够观察到的随机的序列，成为观测序列(observation sequence)。序列的每一个位置又可以看作一个时刻。因此引入下面一些符号：

        设Q是所有可能的状态的集合，V是所有的可能的观测的集合。即:

        

其中，N是可能的状态数，M是可能的观测数。状态q是隐藏的，是不可见的；而观测V是可见的。下面有一个序列：

        

I是长度为T的状态序列，