python数据分析&自动化办公实战(二）：批量输入输出excel文件

此篇起皆为实战总结，以代码+注释+相关总结为主，基础语法请自行学习，注意各种数据类型间的不同就好。

任务目标：给定一年中每个月每一笔订单的详细信息（csv），需要输出每个月的客户名称、业务类型、收入、成本并计算毛利（excel）
目标拆解：获取文件夹下所有csv文件的文件路径，依照文件路径读取csv文件，摘取特定字段并做简单计算，输出excel
用到的库：os，sys，numpy，pandas，csv，xlwt

代码展示：

import os,sys
import numpy as np
import pandas as pd
import openpyxl
import csv
import xlwt

#遍历文件夹,输出文件夹下所有的文件路径及名称
def walk(path):
    if not os.path.exists(path):
        return -1
    for root,dirs,names in os.walk(path):
        for filename in names:
            if os.path.splitext(filename)[1] == '.csv':
                doc = os.path.join(root,filename)
                print(doc)
                csvlist.append(doc)

#确定当前所在的文件夹路径
csvlist = []
cur_path = os.getcwd()
walk(cur_path)

#读取csv,选择特定字段,输出为xlsx
for doc in csvlist:
    df = pd.read_csv(doc,encoding = "gbk")
    df[["月份","客户名称","业务类型","收入不含税","成本"]]
    df["毛利"] = df.apply(lambda df:df["收入不含税"]-df["成本"],axis=1)
    excel_name = os.path.splitext(doc)[0] + "-整理后.xlsx"
    columns = {"月份","客户名称""业务类型",,"收入不含税","成本","毛利"}
    df.to_excel(excel_writer = excel_name,sheet_name = "商家损益数据",index = False,columns=columns)

接下来开始拆解一下代码：
首先是导入所需要的库，需要什么导入什么即可；
第二部分是通过walk（）函数遍历文件夹并搜寻相关文件，将文件名输入到列表里；
在此其中有些知识补充如下：

 for root,dirs,names in os.walk(path):
 #root返回根目录，dirs返回路径，names返回文件名，有dirs在可以保证遍历每个子文件夹
        for filename in names:
            if os.path.splitext(filename)[1] == '.csv':
            #此项将文件名拆成了前后两个部分，由于python的索引从0开始,截断文件名后,索引为0的部分是名称,1的部分是扩展名；
            #扩展名由最后一个“.”后决定,在此之前的都是文件名，“123.456.csv.xlsx”的扩展名是“.xlsx”
                doc = os.path.join(root,filename)
                #doc是含文件路径和文件名在的绝对路径，filename只是文件名
                print(doc)
                csvlist.append(doc)

第三部分是调用函数读取文件路径；

csvlist = []
#建立一个列表对象，用于存储文件名
cur_path = os.getcwd()
#os.getcwd()是获取当前文件所在的文件路径

第四部分是通过for循环实现依次读取批量操作：

for doc in csvlist:
    df = pd.read_csv(doc,encoding = "gbk")
    #函数详情见pandas官方说明文档，主要编码格式有utf-8、gbk、gb2312等，可以在此指定读取的列的数据类型；
    #读取excel文件时函数为pd.read_excel(excel_name,sheet_name,encoding,usecols=use_cols)
    df[["月份","客户名称","业务类型","收入不含税","成本"]]
    #摘取特定列，可以通过df[["客户"]=="a"][["收入"]]等形式同时做行列筛选
    df["毛利"] = df.apply(lambda df:df["收入不含税"]-df["成本"],axis=1)
    #添加新列，使用apply函数进行即时运算赋值，axis=1表示列间计算，axis=0为行计算
    excel_name = os.path.splitext(doc)[0] + "-整理后.xlsx"
    #规定输出的文件路径和名称，偷懒所以以原文件所在的路径、修改文件名输出
    columns = {"月份","业务类型","客户名称","收入不含税","成本","毛利"}
    #指定输出的列及其顺序
    df.to_excel(excel_writer = excel_name,sheet_name = "sheet1",index = False,columns=columns)

一种可以快速合并csv文件的方法,需要用到glob库:

import glob
import pandas as pd

csv_list = glob.glob('*.csv')

for i in csv_list:
        fr = open(i,'rb').read()
        with open('result.csv','ab') as f:
            f.write(fr)
            
df = pd.read_csv("result.csv",encoding="gbk")
df.drop_duplicates(keep=False, inplace=False)
#去除多余的标题行

利用tkinter库选取文件路径：这个库在新版的python中默认集成

import tkinter
from tkinter import filedialog

#选择所要上传数据所在的文件夹
root = tkinter.Tk()
File_Path=tkinter.filedialog.askdirectory()
root.destroy()
#选取子文件夹
path_1 = os.path.join(File_Path, '订单文件夹')
list_order = os.listdir(path_1)  

for FileName in list_order:       #遍历文件夹所有文件  
    Data=pd.read_excel(os.path.join(path_1,FileName))

以上，其余总结等后续补充。