Python切割超大型号csv或者excel文件

使用时直接调用chunk_file函数,写入对应参数即可。也可以保存为xlsx文件,只需要将chunk.to_csv更改即可。(转自大邓和他的python,仅供学习交流用)

# 将超大型csv文件切割,也可切割xlsx文件
import pandas as pd
def chunk_file(chunksize,csv_file):
    # chunksize为块dataframe的体量
    # csv_file为原csv
    new_csv_prefix = csv_file.split('\\')[-1].split('.')[0]
    # 定义计数器和文件编号
    count = 0
    file_number = 1
    # 读取csv文件并拆分成多个小块的DataFrame
    for chunk in pd.read_csv(csv_file, chunksize=chunksize):
        # 将每块DataFrame保存为一个单独的csv文件
        chunk.to_csv(f'{new_csv_prefix}_{file_number}.csv', index=False)
        file_number += 1
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值