Python保存数据超过10W的处理方式

在实际操作中,存储excel的数量超过一个sheet时的解决办法:

    def create_source_excel(params, goods_ids, counts, file):
        """
        生成源数据的excel文件
        """
        quotient, remainder = divmod(len(params), 100000)
        cycle_number = quotient + 1 if remainder else quotient
        writer = None
        for num in range(0, cycle_number):  # excel中的每个sheet存储100000行数据
            goods_id = goods_ids[num * 100000: (num + 1) * 100000]
            count = counts[num * 100000: (num + 1) * 100000]
            if num == 0:
                df = pd.DataFrame({"商品id": goods_id, "出现的次数": count})
                df.to_excel(f"{file}", index=False, sheet_name=f"分页")
                writer = pd.ExcelWriter(f"{file}", mode="a", engine="openpyxl")
            else:
                df = pd.DataFrame({"商品id": goods_id, "出现的次数": count})
                df.to_excel(writer, index=False, sheet_name=f"分页_{num}")
        writer.save()
        writer.close()
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Enougme

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值