GloVe模型采用了平方损失,并通过词向量拟合预先基于整个数据集计算得到的全局统计信息。
任意词的中心词向量和背景词向量在GloVe模型中是等价的。原因在于Glove模型提出了词频共现矩阵的概念。
但由于初始化值的不同,同一个词最终学习到的两组词向量可能不同。当学习得到所有词向量以后,GloVe模型使用中心词向量与背景词向量之和作为该词的最终词向量。
看链接一的图就行。
通俗易懂:https://blog.csdn.net/cuipanguo/article/details/82864983
详解:https://blog.csdn.net/u014665013/article/details/79642083
精读:http://zh.d2l.ai/chapter_natural-language-processing/word2vec-gluon.html