今天开始写一些算法的随记。因为除了写一些大段的文章来说,把一些读paper 或者是读 算法心得记录一下更重要。所以开始写一些随记。希望自己能坚持下去!
关于HMM的随记:在自己的工程实践中用HMM很多次了,关于HMM的中英文资料也读了一些。HMM的局限在哪儿?
HMM是前提是一个双随机过程,HMM遵循马尔科夫随机过程,马尔科夫随机过程的特性如下:
P[qt=si| qt-1=sj,qt-2=sk,....] = P[qt=si|qt-1=sj]
“ 定义观察序列和标记序列的联合分布意味着所有可能的观察序列必须是可枚举的,如果观察序列中存在长距离依赖,枚举所有可能的观察序列是十分困难的,因
此,为了便于模型处理问题,生成模型给出了一个严格的输出独立性假设。” 简而言之,就是根据上面的假设,如果是处理长距离的序列问题,HMM有点力不从心。