本文深入解析了自然语言处理中的一种简单模型——LBLM(对数双线性模型)。LBLM利用上下文词向量预测下一个词向量，通过线性组合上下文词向量实现。文中详细介绍了实数值词向量的运用及如何通过预测表示和所有词的相似度表示计算下一个词的分布。
- LBLM(log-bilinear model)是自然语言处理中的比较简单的模型。
- LBLM根据上下文的词向量来预测下一个词向量
w
n
w_n
wn，通过对上下文词向量的一个线性组合来表示：
r w r_w rw是一个实数值词向量对于词 w w w - 对于下一个词的分布计算根据
w
n
w_n
wn预测表示和所有词的相似度表示计算出来
翻译自https://www.cs.toronto.edu/~hinton/csc2535/notes/hlbl.pdf
扫一扫
2752
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
