各位学友大家好,今天给大家带来利用Python构建机器学习模型,进行文本数据的预测分析,实例采用了kaggle上的数据集,方便大家下载:https://www.kaggle.com/c/fake-news/data?select=train.csv。这个数据集是通过搜集网络新闻来训练出能识别新闻是否真实的一个文本分析模型。python具有对文本数据强大的处理能力,本项目从处理流程来讲大体分为,文本数据导入,文本数据处理,词向量矩阵转化,机器学习模型构建及模型评价这几个步骤。其中文本数据处理的目的是为了满足构建词向量矩阵的格式要求。词向量矩阵的转化方法我们采用了比较流行的TF-IDF法。
在这里谈一下我对自然语言处理机器学习的一些看法,注意这里的机器学习指的是传统的机器学习,关于自然语言深度学习的内容可以参看我的其它文章https://zhuanlan.zhihu.com/p/376996383。我们这个项目传统的机器学习自然语言处理,流程是非常固定的,首先是把每条文本放入单元格,构成独立一列,然后进行分词,之后进行词向量的矩阵化,这一步完成以后基本上就是处理机器学习建模的问题了。目前无论是python还是R语言,都给大家集成了很好分词,词向量处理的库,为我们的NLP提供了很好的API。我们只要按流程跑就行。这里把全代码给大家,大家可以复制下来自己跑跑,谢谢大家的支持。我们共同学习。
import pandas as pd
from nltk.corpus import stopwor