自然语言处理
Toooodd
小菜鸡是也
展开
-
什么是词嵌入(word embedding)
整理自知乎Embedding在数学上表示一个maping, f: X -> Y, 也就是一个function。其中该函数是injective(就是我们所说的单射函数,每个Y只有唯一的X对应,反之亦然) structure-preserving (结构保存,比如在X所属的空间上X1 < X2,那么映射后在Y所属空间上同理 Y1 < Y2)。那么对于word embedd...转载 2019-02-28 15:02:01 · 2337 阅读 · 0 评论 -
什么是 Word2Vec
Word2vec,就是词嵌入( word embedding) 的一种。f(x)->y 在 NLP 中,把 x 看做(一个句子里的)一个词语,y 是这个词语的上下文词语,那么这里的 f,便是 NLP 中经常出现的『语言模型』(language model)。Word2vec 正是来源于这个思想,但它的最终目的,不是要把 f 训练得多么完美,而是只关心模型训练完后的副产物...转载 2019-03-09 19:38:36 · 1198 阅读 · 0 评论