一、基本思路和实现过程
1. 问题描述
给出一个拼音串,例如:qing hua da xue
如何找到对应的汉字呢?请注意,这里的拼音串不同的拼音之间是有空格隔开的,并且不包含标点符号。
2. 基于隐马尔科夫(HMM)的拼音输入法
继续考虑上面的问题。其中每个拼音都可能对应多个汉字,整体上构成一个复杂的网络,对应多种汉字组合:
我们可以把这个问题看成一个路径优化问题:我们认为汉语中每个字的出现不是偶然的,而是与上一个字存在某种联系,从而从上一个字到这个字可能存在某种概率,而且不同组合概率不同。显然这与我们的生活经验相符,比如“清华”出现的概率应该比“清话”和“清花”大。如果把这个概率看成一种路径长度,那么我们就是要找到最长的路径(只不过这里的路径“长度”是不同路径相乘得到——那么也可以将概率的对数视为真正的路径长度,但事实上没必要这么实现)。这恰好对应隐马尔可夫模型(Hidden Markov Model,HMM)。百科上的解释是它是一个含有隐含未知参数的马尔可夫过程。马尔可夫过程简单地说就是一个过程的一个状态由它的上一状态决定。之所以是隐马尔可夫模型,主要是这个状态序列是“隐藏”的。比如我们随便输入的一个句子基本上是之前没有输入过的。
考虑这样一个网络:
我们将上面的解析抽象为数学问题,目标也就是:
其中:
为了解决$P(w_i|w_{i-1})$ 可能为0的