Pandas进阶之提升运行效率

前言

如果你现在正在学习数据分析,或者正在从事数据分析行业,肯定会处理一些大数据集。pandas就是这些大数据集的一个很好的处理工具。那么pandas到底是什么呢?官方文档上说:

" 快速灵活,富有表现力的数据结构,旨在使”关系“或”标记“数据的使用既简单直观。"

快速、灵活、简单、直观!这些听起来感觉很棒。如果你的工作涉及到构建复杂的数据模型,你肯定不希望花费大量的开发时间等待模块处理大数据集。我们需要将大量的时间与精力放在解释数据当中,而不是使用那些功能较少的工具,为了处理数据而煞费苦心。

Pandas处理数据慢?

在使用的pandas的过程中有人说,虽然他是一个很好的解析数据的工具,但是因为它的速度太慢了,无法作为统计建模工具。对于初学者在自己的使用当中可能会发现,它的运行速度,并不符合一个数据分析工具的标准。

但是Pandas的开发是建立在Numpy的数组结构之上的,它的许多操作都是通过C语言实现的,基于Numpy和Pandas自己的拓展模块来编写的,这些模块是Cpython编写的,编译成C语言。这样来看,pandas的速度肯定快的。

事实证明,肯定是,但是你必须正确的使用它!

本文不是讲如何过度优化Pandas的代码,而是讲如何正确的使用它,主要介绍几种pandas中常用到的方法,对于这些方法的使用存在哪些需要注意的问题,以及如何对它们进行速度上的提升。

  • 讲datetime数据与时间序列一起使用的优点
  • 进行批量计算的最有效的途径
  • 通过HDFStore存储数据节省时间

使用datetime数据节省时间

import pandas as pd
from timer import timeit
import time
import numpy as np
pd.__version__
'0.24.2'
df = pd.read_csv('demand_profile.csv')
df.head()
date_timeenergy_kwh
01/1/13 0:000.586
11/1/13 1:000.580
21/1/13 2:000.572
31/1/13 3:000.596
41/1/13 4:000.592

从运行上面的代码得到的结果来看,好像没有任何问题。但是实际上pandas和numpy都有一个dtypes的概念。如果每天指定的话,那么date_time将会使用一个object的dtype类型,如下:

df.dtypes
date_time      object
energy_kwh    float64
dtype: object
type(df.iat[0,0])
str

object类型就像一个大的容器,不仅仅可以承载str类型,也可以包含那些不能很好地融进一个数据类型的任何特征列。而如果我们将日期作为str类型就会极大的影响效率。
因此针对时间序列的数据而言,我们需要将date_time列的格式转换为datetime对象数组(pandas称之为Timestap)。具体操作如下:

df['date_time'] = pd.to_datetime(df['date_time'])
print(df['date_time'].dtype)
df['date_time'].head()
datetime64[ns]
0   2013-01-01 00:00:00
1   2013-01-01 01:00:00
2   2013-01-01 02:00:00
3   2013-01-01 03:00:00
4   2013-01-01 04:00:00
Name: date_time, dtype: datetime64[ns]

以上就是date_time列转换类型的操作以及转换后的效果。

接下来我们自定义一个@timeit装饰器进行测试,它可以返回函数的运行结果并从多次实验中打印它的平均运行时间。

@timeit(repeat = 3, number = 10)
def convert(df, column_name):
    return pd.to_datetime(df[column_name])

df['date_time'] = convert(df, 'date_time')
Best of 3 trials with 10 function calls per trial:  
Function `convert` ran in average of 0.785 seconds.

实际运行速度0.785s,看上去非常快了,但是其实还可以更快

@timeit(repeat = 3, number = 10)
def convert_with_format(df, column_name):
    return pd.to_datetime(df[column_name],format="%d/%m/%y %H:%M")

df['date_time'] = convert_with_format(df, 'date_time')
Best of 3 trials with 10 function calls per trial:  
Function `convert` ran in average of 0.022 seconds.

结果只有0.022s,快了将近35倍。原因是:我们设置了转化的格式format。由于在CSV中的datetimes并不是ISO 8601格式的,如果不进行设置的话,那么pandas将使用dateutil包把每个字符串str转化成date日期。
相反,如果原始数据datetime已经是ISO 8601格式了,那么pandas就可以立即使用最快速的方法来解析日期。这也就是为什么提前设置好格式format可以提升这么多的速度

Pandas数据的循环操作

仍然基于上面的数据,我们再添加一个新的特征,但是这个新的特征是基于一些时间条件,根据时长而变化,如下:

data = pd.DataFrame({'Tariff Type':['Peak','Shoulder','Off-Peak'],
            'Cents per kWh':['28','20','12'],
            'Time Range':['17:00 to 24:00','7:00 to 17:00','0:00 to 7:00']})
data
Tariff TypeCents per kWhTime Range
0Peak2817:00 to 24:00
1Shoulder207:00 to 17:00
2Off-Peak120:00 to 7:00

因此,按照我们正常的做法就是使用apply方法写一个函数,函数里面写好时间条件的逻辑代码

def apply_tariff(kwh, hour):
    """
    计算每个小时的电费
    """
    if 0 <= hour < 7:
        rate = 12
    elif 7 <= hour < 17:
        rate = 20
    elif 17 <= hour < 24:
        rate = 28
    else:
        raise ValueError(f"Invalid hour:{hour}")
    return rate * kwh

通过for循环来遍历df,根据apply函数逻辑添加新的特征,如下:

@timeit(repeat = 3, number = 100)
def apply_tariff_loop(df):
    """
    循环计算,修改df的特征
    """
    energy_cost_list = []
    for i in range(len(df)):
        energy_used = df.iloc[i]['energy_kwh']
        hour = df.iloc[i]['date_time'].hour
        energy_cost = apply_tariff(energy_used, hour)
        energy_cost_list.append(energy_cost)
    df['cost_cents'] = energy_cost_list

apply_tariff_loop(df)
Best of 3 trials with 100 function calls per trial:
Function `apply_tariff_loop` ran in average of 2.291 seconds.

对于那些经常使用python编程的coder来说,这个设计看起来非常的自然。但是这个循环会严重影响效率,你要是做数据分析,肯定是不赞成这么做的

  • 1、它需要初始化一个将记录输出的列表
  • 2、它使用不透明对象范围(0,len(df))循环,然后在应用apply_tariff()之后,它必须将结果附加到用于创建新DataFrame列的列表中。它还使用df.iloc [i] ['date_time']执行所谓的链式索引,这通常会导致意外的结果。
  • 3、这种方法最大的问题是计算的时间成本。对于八千多行的数据,使用循环花了2.29秒钟。

使用itertuples()和iterrows()循环

可能有些同学看到这两个方法有些熟悉,我们通过pandas导入itertuples和iterrows方法可以使效率更快。这些都是一次产生一行的生产器方法,类似与python生成器中的yield用法

.itertuples为每一行产生一个namedtuple,并且行的索引值作为元组的第一个元素。nametuple是Python的collections模块中的一种数据结构,其行为类似于Python元组,但具有可通过属性查找访问的字段。

.iterrows为DataFrame中的每一行产生(index,series)这样的元组。

虽然.itertuples往往会更快一些,但是在这个例子中使用.iterrows,我们看看这使用iterrows后效果如何。

@timeit(repeat = 3, number = 100)
def apply_tariff_iterrows(df):
    energy_cost_list = []
    for index, row in df.iterrows():
         # 获取用电量和时间(小时)
        energy_used = row['energy_kwh']
        hour = row['date_time'].hour
        # 添加cost列表
        energy_cost = apply_tariff(energy_used, hour)
        energy_cost_list.append(energy_cost)
    df['cost_cents'] = energy_cost_list

apply_tariff_iterrows(df)
Best of 3 trials with 100 function calls per trial:
Function `apply_tariff_iterrows` ran in average of 0.674 seconds.

语法方面:这种类型的语法更加明确,并且行值引用中的混乱更少,因此它更具有可读性

时间收益方面:快了将近3.5倍,但是我们还有改进的空间。因为我们依然在使用python的for循环,这就意味着每个函数调用都是在python中完成的,理想情况是它可以用pandas内部架构中内置的更快的语言完成

Pandas的.apply()方法

使用.apply方法而不是.iterrows进一步改进此操作。Pandas的.apply方法接受函数(callables)并沿DataFrame的轴(所有行或所有列)应用它们。在此示例中,lambda函数将帮助你将两列数据传递给apply_tariff():

@timeit(repeat = 3, number = 100)
def apply_tariff_withapply(df):
    df['cost_cents'] = df.apply(
        lambda row:apply_tariff(
            kwh = row['energy_kwh'],
            hour = row['date_time'].hour),
            axis = 1)
apply_tariff_withapply(df)
Best of 3 trials with 100 function calls per trial:
Function `apply_tariff_withapply` ran in average of 0.141 seconds.

.apply的语法优点很明显,行数少,代码可读性高。在这种情况下,所花费的时间大约是.iterrows方法的五分之一。

但是,这还不是“非常快”。一个原因是.apply()将在内部尝试循环遍历Cython迭代器。但是在这种情况下,传递的lambda不是可以在Cython中处理的东西,因此它在Python中调用,因此并不是那么快。

如果你使用.apply()获取10年的小时数据,那么你将需要大约15分钟的处理时间。如果这个计算只是大型模型的一小部分,那么你真的应该加快速度。这也就是矢量化操作派上用场的地方。

矢量化操作:使用.isin()选择数据

矢量化操作这个东西是学习numpy、pandas比较基础的一个知识点,在这边就不做过多介绍了。
它是pandas中执行的最快方法。

# df.set_index('date_time',inplace=True)

@timeit(repeat=3,number=100)
def apply_tariff_isin(df):
    peak_hours = df.index.hour.isin(range(17,24))
    shoulder_hours = df.index.hour.isin(range(7,17))
    off_peak_hours = df.index.hour.isin(range(0,7))
    
    df.loc[peak_hours, 'cost_cents'] = df.loc[peak_hours, 'energy_kwh'] * 28
    df.loc[shoulder_hours, 'cost_cents'] = df.loc[shoulder_hours, 'energy_kwh'] * 20
    df.loc[off_peak_hours, 'cost_cents'] = df.loc[off_peak_hours, 'energy_kwh'] * 12
    
apply_tariff_isin(df)
Best of 3 trials with 100 function calls per trial:
Function `apply_tariff_isin` ran in average of 0.003 seconds.

isin()方法返回的是一个布尔值数组,如下所示:

[False, False, False, ...,True ,True ,True]

这些值标识哪些DataFrame索引(datetimes)落在指定的小时范围内。然后,当你将这些布尔数组传递给DataFrame的.loc索引器时,你将获得一个仅包含与这些小时匹配的行的DataFrame切片。在那之后,仅仅是将切片乘以适当的费率,这是一种快速的矢量化操作。

这与我们上面的循环操作相比如何?首先,你可能会注意到不再需要apply_tariff(),因为所有条件逻辑都应用于行的选择。因此,你必须编写的代码行和调用的Python代码会大大减少。

处理时间怎么样?比不是Pythonic的循环快764倍,比.iterrows快224倍,比.apply快47倍。

咱们还能做的更好吗

其实通过以上的对比,我们会发现它的时间效率进步是非常大的,但是这就完了吗?

在apply_tariff_isin中,我们仍然可以通过调用df.loc和df.index.hour.isin三次来进行一些“手动工作”。如果我们有更精细的时隙范围,你可能会争辩说这个解决方案是不可扩展的。幸运的是,在这种情况下,你可以使用Pandas的pd.cut()函数进行离散化分箱,以编程方式执行更多操作:

@timeit(repeat=3, number=100)
def apply_tariff_cut(df):
    cents_per_kwh = pd.cut(x=df.index.hour,
                           bins=[0, 7, 17, 24],
                           include_lowest=True,
                           labels=[12, 20, 28]).astype(int)
    df['cost_cents'] = cents_per_kwh * df['energy_kwh']

apply_tariff_cut(df)
Best of 3 trials with 100 function calls per trial:
Function `apply_tariff_cut` ran in average of 0.001 seconds.

到目前为止,时间上基本已经快要到达极限了,只花费了0.001秒的时间来处理完整的十年的小时数据集。最后一个选项是使用 NumPy 函数来操作每个DataFrame的底层NumPy数组,然后将结果集成回Pandas数据结构中。

结合numpy继续加速

我们在玩pandas的时候肯定不能忘记的一点就是,它是基于numpy进行编写的,它最常用的两种数据结构DataFrameSeries都是在numpy库之上设计的。这使得我们计算更加灵活,因为pandas可以和numpy的矩阵和操作无缝衔接

接下来,我们将使用NumPy的 digitize() 函数。它类似于Pandas的cut(),因为数据将被分箱,但这次它将由一个索引数组表示,这些索引表示每小时所属的bin。然后将这些索引应用于价格数组:

@timeit(repeat=3, number=100)
def apply_tariff_digitize(df):
    prices = np.array([12, 20, 28])
    bins = np.digitize(df.index.hour.values, bins=[7, 17, 24])
    df['cost_cents'] = prices[bins] * df['energy_kwh'].values
    
apply_tariff_digitize(df)
Best of 3 trials with 100 function calls per trial:
Function `apply_tariff_digitize` ran in average of 0.001 seconds.

与pandas的cut()函数一样,这种语法非常简洁易读。

运行后时间显示依然是0.001s,其实性能是有提升的,只不过时间显示的问题。使用pandas,可以帮助维持层次结构,如果你想的话,可以像在此处一样进行批量计算,

  • 使用向量化操作:没有for循环的Pandas方法和函数。
  • 将.apply方法:与可调用方法一起使用。
  • 使用.itertuples:从Python的集合模块迭代DataFrame行作为namedTuples。
  • 使用.iterrows:迭代DataFrame行作为(index,Series)对。虽然Pandas系列是一种灵活的数据结构,但将每一行构建到一个系列中然后访问它可能会很昂贵。
  • 使用“element-by-element”循环:使用df.loc或df.iloc一次更新一个单元格或行。

上面的优先顺序是pandas开发人员的建议

使用HDFStore防止重新处理

现在你已经了解了Pandas中的加速数据流程,接着让我们探讨如何避免与最近集成到Pandas中的HDFStore一起重新处理时间。

通常,在构建复杂数据模型时,可以方便地对数据进行一些预处理。例如,如果您有10年的分钟频率耗电量数据,即使你指定格式参数,只需将日期和时间转换为日期时间可能需要20分钟。你真的只想做一次,而不是每次运行你的模型,进行测试或分析。

你可以在此处执行的一项非常有用的操作是预处理,然后将数据存储在已处理的表单中,以便在需要时使用。但是,如何以正确的格式存储数据而无需再次重新处理?如果你要另存为CSV,则只会丢失datetimes对象,并且在再次访问时必须重新处理它。

Pandas有一个内置的解决方案,它使用 HDF5,这是一种专门用于存储表格数据阵列的高性能存储格式。 Pandas的 HDFStore 类允许你将DataFrame存储在HDF5文件中,以便可以有效地访问它,同时仍保留列类型和其他元数据。它是一个类似字典的类,因此您可以像读取Python dict对象一样进行读写。

以下是将预处理电力消耗DataFrame df存储在HDF5文件中的方法:

# 创建储存对象,并存为 processed_data
data_store = pd.HDFStore('processed_data.h5')

# 将 DataFrame 放进对象中,并设置 key 为 preprocessed_df
data_store['preprocessed_df'] = df
data_store.close()

现在,你可以关闭计算机并休息一下。等你回来的时候,你处理的数据将在你需要时为你所用,而无需再次加工。以下是如何从HDF5文件访问数据,并保留数据类型:

# 获取数据储存对象
data_store = pd.HDFStore('processed_data.h5')

# 通过key获取数据
preprocessed_df = data_store['preprocessed_df']
data_store.close()

数据存储可以容纳多个表,每个表的名称作为键。

关于在Pandas中使用HDFStore的注意事项:您需要安装PyTables> = 3.0.0,因此在安装Pandas之后,请确保更新PyTables,如下所示:

# pip install --upgrade tables

结论

如果你觉得你的Pandas项目不够快速,灵活,简单和直观,请考虑重新考虑你使用该库的方式。

这里探讨的示例相当简单,但说明了Pandas功能的正确应用如何能够大大改进运行时和速度的代码可读性。以下是一些经验,可以在下次使用Pandas中的大型数据集时应用这些经验法则:

尝试尽可能使用矢量化操作,而不是在df 中解决for x的问题。如果你的代码是许多for循环,那么它可能更适合使用本机Python数据结构,因为Pandas会带来很多开销。
如果你有更复杂的操作,其中矢量化根本不可能或太难以有效地解决,请使用.apply方法。
如果必须循环遍历数组(确实发生了这种情况),请使用.iterrows()或.itertuples()来提高速度和语法。
Pandas有很多可选性,几乎总有几种方法可以从A到B。请注意这一点,比较不同方法的执行方式,并选择在项目环境中效果最佳的路线。
一旦建立了数据清理脚本,就可以通过使用HDFStore存储中间结果来避免重新处理。
将NumPy集成到Pandas操作中通常可以提高速度并简化语法。

参考:https://realpython.com/fast-flexible-pandas/

  • 0
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值