陈诚的博客

翻译 Word2Vec导学第二部分 - 负采样

Word2Vec导学第二部分 - 负采样在word2vec导学的第二部分，我将介绍一些在基础skip-gram模型上的额外改进，这些改进是非常重要的，他将使得模型变得可以被训练。当你阅读word2vec中的skip-gram模型导学的时候，你会发现那个神经网络实在是太巨大了。在我给的这个例子下面，每个词向量由300个元素组成，并且一个单词表中包含了10000个单词。回想神经网络中有两个权重矩阵——一