NLP_chattot 项目中特征工程(词袋模型,词向量)

词袋模型（Bag of Word, BOW)，只考虑词表（文本中所有出现词的set）中单词在这个句子中的出现次数，统计词频这只是最基本的方式，TF-IDF 是词袋模型的一个经典用法。

词向量是将字、词语转换成向量矩阵的计算模型。目前为止最常用的词表示方法是 One-hot，这种方法把每个词表示为一个很长的向量。这个向量的维度是词表大小，其中绝大多数元素为 0，只有一个维度的值为 1，这个维度就代表了当前的词。处理词向量的常用模型google的Word2Vec，其主要包含两个模型：跳字模型（Skip-Gram）和连续词袋模型（Continuous Bag of Words，简称 CBOW），以及Word2Vec的升级版FastText。