Python办公自动化(四) 批量处理文件_python 根据大纲执行批量处理文件夹(1)

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新软件测试全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上软件测试知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注软件测试）

正文

用同样的方式处理一堆文件夹中文件，这并不难，但就是繁。所以在遇到机械式的操作时一定要记得使用Python来合理偷懒！今天我将以处理微博热搜数据来示例如何使用Python批量处理文件夹中的文件，主要将涉及：

• Python批量读取不同文件夹(⭐⭐⭐)
• Pandas数据处理(⭐⭐)
• Python操作Markdown文件(⭐)

需求分析

首先来说明一下需要完成的任务，下面是我们的文件夹结构

因为微博历史热搜是没有办法去爬的，所以只能写一个爬虫每天定时爬取热搜并保存，所以在我当时分析数据时使用的就是上图展示的数据，每天的数据以套娃形式被保存在三级目录下，并且热搜是以markdown文件存储的，打开是这样👇

而我要做的就是将这三个月的微博热搜数据处理成这样👇

依次点三下进入每天的数据文件夹再打开md文件手动复制粘贴进Excel，不就几万条数据，大不了一天不吃饭也能搞定！现在我们来看看如何用Python光速处理。

Python实现

在操作之前我们来思考一下如何使用Python实现，其实和手动的过程类似：先读取全部文件，再对每一天的数据处理、保存。所以第一步就是将我们需要的全部文件路径提取出来，首先导入相关库

import pandas as pd
import os
import glob
from pathlib import Path

读取全部文件名的方法有很多比如使用OS模块

但是由于我们是多层文件夹，使用OS模块只能一层一层读取，要写多个循环从而效率不高，所以我们告别os.path使用Pathlib来操作，三行代码就能搞定，看注释

from pathlib import Path

p = Path(“/Users/liuhuanshuo/Desktop/热搜数据/”) #初始化构造Path对象

FileList=list(p.glob(“**/*.md”)) #得到所有的markdown文件

来看下结果

成功读取了热搜数据下多层文件夹中的全部md文件！但是新的问题来了，每天有两条热搜汇总，一个11点一个23点，考虑到会有重合数据所以我们在处理之前先进行去重，而这就简单了，不管使用正则表达式还是按照奇偶位置提取都行，这里我是用lambda表达式一行代码搞定

filelist = list(filter(lambda x: str(x).find(“23点”) >= 0, FileList))

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注软件测试）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**