文本分类
文本分类需要用到re,数据清洗,分词
替换叠词re.findall(pattern{n,m},txt)
http://c.runoob.com/front-end/854使用这个网站在线匹配
构建停用词,除了常用的停用词外,可以根据文本中需要去除的文本加入
构建词典,不想被分词器分开的词,可以添加到词典中
先是传统方法,文本分类
有分类器,logistics,svm,naviebayes,xgb……
可以将文本编码为词频或者是tfidf
其中词频可使用 countervectorize
tfidf可使用tfidfvectorize
然后用这些传统方法分类
其中贝叶斯有三种,分别是伯努利贝叶斯对应标签0/1,多项式贝叶斯对应多个标签,高斯贝叶斯对应连续
然后是深度学习
lstm or bilstm
textcnn
DCNN–动态的K-max Pooling
CLSTM–将CNN和RNN混合使用作为文本的分类器
FastText
Hierarchical Attention Networks(HAN)
还有关于关键字对于分类的作用??
提取关键字,利用关键字建立特征矩阵,
参考
深度https://blog.csdn.net/cdj0311/article/details/80433936