NLP
没有色彩的天吾
这个作者很懒,什么都没留下…
展开
-
Word2Vec
word2vecCBOW&Skip-Gram两个模型的机制非常相似。CBOW是给通过一系列背景词,预测中心词。Skip-Gram是通过一中心词,生成各背景词汇。每个词对应了两个向量:其作为中心词的中心向量vcv_cvc;其作为背景词的背景向量ucu_cuc而vc,ucv_c,u_cvc,uc的生成借助于两个Matrix->V∈Rn×∣V∣,U∈R∣V∣×nV \...原创 2019-03-26 15:38:52 · 800 阅读 · 0 评论 -
g-love-Glove
GloveCBOW,Skip-Gram新型模型的提出,通过词嵌入的方式一定程度解决了词汇相似的问题。不过这些新模型并没利用co−occurrenceco-occurrenceco−occurrence对于全局的统计数据。Glove的目的是既利用好co−occurrenceco-occurrenceco−occurrence计数的全局统计数据,又将其与CBOW,Skip-Gram的机制联系起来...原创 2019-03-27 16:50:31 · 461 阅读 · 0 评论