2020-08-15题目就要与众不同

word2vec

自然语言是一套用来表达含义的复杂系统。在这套系统中，词是表义的基本单元。
词向量，是用来表示词的向量或表征，也可被认为是词的特征向量。
把词映射为实数域向量的技术也叫词嵌入（word embedding）。

为何不用one-hot向量？
one-hot向量构造起来容易，但不是一个好选择，主要原因：
one-hot词向量无法准确表达不同词之间的相似度，如我们常常使用的余弦相似度。
任何两个不同词的one-hot向量的余弦相似度都为0，多个不同词之间的相似度难以通过one-hot向量准确地体现出来。
word2vec工具的提出正是为了解决上面的问题。它将每个词表示成一个定长的向量，并使得这些向量能够较好地表达不同词之间的相似和类比关系。
其中word2vec包含两个模型：CBOW（continuous bag of words，连续词袋模型）和skip-gram（跳字模型）。