这是合肥工业大学管理学院学生创建一个工具程序集合,方便我们平时处理数据。针对文本处理的内容较多。主要是方便大家对数据进行预处理工作。具体的项目地址请见 https://github.com/df19900725/HFUTUtils 。本项目使用jdk8+,使用maven的方式管理引入的jar包。在Github下面直接下载了jar包,引入到你的项目中,然后在pom.xml中添加本项目的依赖就可以了。
本工具的详细使用情况:http://www.datalearner.com/blog/1051494253501911
可处理的内容包括:
- 文件操作类HFUTFileUtils
- 张华平分词/中科院分词/ICTCLAS/NLPIR的使用
- 结巴分词的使用
- 过滤分词后的文本
- 按照词性标注的结果过滤
- 按照停用词表过滤停用词
- 文档语料处理