需求
最近在做文本分类,拿到的数据很乱。要做下一步,不管是分词还是tfidf都要先做数据的分类。
元数据
3万篇文章,在一个excel中,每行有每篇文章的id、内容(title_content)、分类(relative breeds),(共三列)。
目标
按分类创建子目录,文章按分类放入子目录中,每篇文章写入一个txt文件,txt文件标题为文章id
README
excel的读入使用了pandas,pandas的逐行读取功能很好用。
网上有些教程使用了xlrd,感觉有点复杂,而且xlrd好像有文件大小的限制。相比较而言pandas没有大小限制,个人感觉速度也比较快。
路径的操作使用了python标准库os。
同样的方法,也可以读取txt写入excel,读取csv写入excel。只需要更改pandas的读取文件函数就好了。
pandas真好用啊
"""
@version:python3.6
@author:chenyaooo
@concact:sunchingyo@icloud.com
"""
import pandas as pd
import os
def creatcatesdir(data, target):
"""
创建类别目录
"""
# 获取去重后的分类列表
cates = list(data['relative breeds'].unique())