一、NLP定义
NLP = NLU + NLG
NLU :语音/文本 → 意思(meaning)
NLG:意思 → 文本/语音
翻译一段话通过如下方式:
先通过第一部一对一单词文本翻译,第二部是通过判断是不是一段话。
如此存在缺点分两步,计算量太大
考虑把两个步骤合并成一步,就是——维特比算法(Viterbi Algorithm)。
现在令,中文=c,英文=e,根据贝叶斯定理有max(e) P(e|c) = P(c|e)*P(e)
所以分成三个模块:
语言模型概率越高,这句话越像一句人话,翻译模型是相当于一个词典,直接翻译。
Decoding Algorithm结合两个模型,就是上面提到的维特比算法(Viterbi Algorithm),维特比算法相比两个模型主要降低了时间复杂度。
语言模型计算方式: