隐马尔科夫模型（HMM）学习笔记整理与思考

隐含马尔可夫模型是一个基于概率统计的模型。
到目前为之，它一直被认为是实现快速精确的语音识别系统的最成功的方法。复杂的语音识别问题通过隐含马尔可夫模型能非常简单地被表述、解决。
在学习和理解隐马尔科夫模型之前，我觉得需要理解一些基础性的内容以便理解；我把笔记整理成三个相关内容。
1.动态规划   2.马尔科夫链   3.隐马尔科夫模型 

*****1.动态规划*****
动态规划的思想很早就被应用到了语音识别的数学模型中，比如动态时间规整(Dynamic Time Warping，简称DTW )。
动态规划是在语音识别模型研究初期就提出来的比较基础的思想方法，HMM模型很多地方都是对这些思想的进一步思考。
同时动态规划也是一种很好的寻优方法和迭代计算的思想方法。
动态规划的思想非常简单：动态规划算法通常基于一个递推公式及一个或多个初始状态。当前子问题的解将由上一次子问题的解推出。
这种简单的思想却在有些情况下极其有效,举个例子：
问题：

平面上有4＊4个格子，每个格子中放着一定数量的苹果。你从右上角的格子开始， 每一步只能向下走或是向左走，每次走到一个格子上就把格子里的苹果收集起来， 这样下去，你最多能收集到多少个苹果？

如果是遇到这样的问题大家会怎么解决呢？
最简单的办法就是找到从右上角到左下角的所有走法然后计算每一种走法可以拿到的苹果数，然后排列找到最大的那种走法。这种想法虽然简单但是计算太过暴力，用这种方法很难求到最佳的走法。
但是还有其他的方法可以解决这个问题，这就是动态规划。
这里我们可以设
就是建造一个新的矩阵A，矩阵里的每一个值代表从起始点到达这个位置的最大值。每个位置的值按照题目的设置和它的前一步有关（上一格或者右一格）。
按照这个想法。我们可以从起始点开始：A14=2
A13只有一条路径到达，故而值为2+4=6；同理算出A24=9；
而A23的值取决于A13，A24，A13=max（A24，A13）+5=16；
依此向前推可以得到下图

就是用这种步步寻优的方法我们可以在建立好新的矩阵的时候一眼看出最佳的路径。
这种步步寻优的想法在后面的算法中会用到。

  ***2.马尔科夫链***
  马尔科夫链是随机过程这个课的重要内容&