语言模型
1、什么是语言模型?
为单词序列分配概率的模型就叫做语言模型。对于单词序列 ,计算
的模型就是语言模型。
通俗来说,语言模型就是这样一个模型:对于任意的词序列,它能够计算出这个序列是一句话的概率。或者说语言模型能预测单词序列的下一个词是什么。
那么这个概率怎么计算呢?一个语言模型通常构建为字符串 s 的概率分布 P(s),这里 P(s) 试图反映的是字符串 s 作为一个句子出现的频率,对于一个由 n 个基元("基元" 可
为单词序列分配概率的模型就叫做语言模型。对于单词序列 ,计算
的模型就是语言模型。
通俗来说,语言模型就是这样一个模型:对于任意的词序列,它能够计算出这个序列是一句话的概率。或者说语言模型能预测单词序列的下一个词是什么。
那么这个概率怎么计算呢?一个语言模型通常构建为字符串 s 的概率分布 P(s),这里 P(s) 试图反映的是字符串 s 作为一个句子出现的频率,对于一个由 n 个基元("基元" 可