首先,可以用生成模型来看文档和主题这两件事。所谓生成模型,就是说,我们认为一篇文章的每个词都是通过“以一定概率选择了某个主题,并从这个主题中以一定概率选择某个词语”这样一个过程得到的。那么,如果我们要生成一篇文档,它里面的每个词语出现的概率为:
这个概率公式可以用矩阵表示:
通过大量数据集的训练可以训练出等式右边的两个矩阵
那么在使用的时候则是逆向的方式:
例如给定两篇文章N1,N2,计算这两篇文章的相似性:
那么对于文档N1,N2中的每一个单词都可以得到对应的一个主题的概率向量,加权可以得到总的一个向量
计算这两个主题向量的相似度作为这两篇文章的相似度。