使用Modin替换Pandas以提高运行速度

(目前实测在数量较少的数据集上modin的表现并不如人意)

Pandas是单核的,所以我无法使用我主机上24核的CPU。

有没有一种办法,可以简单易行地提升Pandas的效率而不大幅更改我的代码?

Modin

Modin官方传送门:https://github.com/modin-project/modin

简单地介绍一下Modin是如何通过多进程调度来提升Pandas的效率的:

你可以简单地把Modin理解为 Pandas + Multiprocessing, Modin将多进程运行Pandas的过程简化并封装,保留了和原来完全相同的API,这样子你就可以通过多核来运行Pandas但不需要更改代码。

import pandas as pd

import modin.pandas as pd

 Modin通过Dask或是Ray(两种任务调度平台)来分配Pandas的任务。

例如,在读取文件时,Pandas是整体读取,但是Modin是把文件分割以后把任务丢给一个个的核心,然后不同的核心在读取之后再汇总为一个文件,通过这样的切割文件分别读取的方式来实现性能的提高。

总之,经过我自己的测试,循环拼接数据节省了一倍的时间还算是不错(毕竟除了引入方式以外没有其他改动而且可以利用更多的核心。)

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值