领域词（短语挖掘）

对于基于短语的领域词挖掘，我们先从语料库中自动产生大量的 n-gram 候选集 ( n 是一个正整数，例如2~8 )，然后使用电商词典对候选集进行初标，得到一个训练样本集。以此为基础，我们采用随机森林，采样正负样本训练多棵树来构建分类器，以对候选短语的质量进行评分。分类器的特征包含两类：一类是 Wide 统计特征：频率、凝聚度、自由度等等；另一类是 Deep 语义特征：字向量、词向量、基于词向量的内部相似度等。最后，我们使用预训练的 BERT 领域语言模型对前述分类的候选短语进行修剪 ( pruning ) 得到领域词。