NLP特征工程（待完善细节）

参考：https://blog.csdn.net/m0epNwstYk4/article/details/78861537
最近在做文本的特征工程构建，陆陆续续搜集到一些公认的对文本表征能力比较强的特征，比如频次法、tf-idf、互信息方法、N-Gram、Word2Vec等，文本特征包含以上这些但也不限于这些。

频次法

频次法，顾名思义，十分简单。它记录每篇文章的次数分布，然后将分布输入机器学习模型，训练一个合适的分类模型。对这类数据进行分类，需要指出的是：在统计次数分布时，可合理提出假设，频次比较小的词对文章分类的影响比较小。因此，我们可合理地假设阈值，滤除频次小于阈值的词，减少特征空间维度。

TF-IDF

TF-IDF 相对于频次法，有更进一步的考量。词出现的次数能从一定程度反应文章的特点，即 TF，而 TF-IDF，增加了所谓的反文档频率，如果一个词在某个类别上出现的次数多，而在全部文本上出现的次数相对比较少，我们就认为这个词有更强大的文档区分能力。TF-IDF 是综合考虑了频次和反文档频率两个因素的方法。

互信息方法

互信息方法也是一种基于统计的方法，计算文档中出现词和文档类别的相关程度，即互信息。

N-Gram

基于 N-Gram 的方法是把文章序列，通过大小为 N 的窗口，形成一个个 Group。然后对这些 Group 做统计，滤除出现频次较低的 Group，再把这些 Group 组成特征空间，传入分类器，进行分类。