jupyter notebook多维数组运算_6种数据格式对比，用Jupyter+pandas高效数据分析

最新推荐文章于 2023-04-26 10:52:22 发布

weixin_39621427

最新推荐文章于 2023-04-26 10:52:22 发布

阅读量374

点赞数

编译：刘早起(有删改)

来源：towardsdatascience、GitHub等

在使用python进行数据分析时，Jupyter Notebook是一个非常强力的工具，在数据集不是很大的情况下，我们可以使用pandas轻松对txt或csv等纯文本格式数据进行读写。

然而当数据集的维度或者体积很大时，将数据保存并加载回内存的过程就会变慢，并且每次启动Jupyter Notebook时都需要等待一段时间直到数据重新加载，这样csv格式或任何其他纯文本格式数据都失去了吸引力。

本文将对pandas支持的多种格式数据在处理数据的不同方面进行比较，包含I/O速度、内存消耗、磁盘占用空间等指标，试图找出如何为我们的数据找到一个合适的格式的办法！

——格式说明

现在对本文进行对比的几种数据格式进行说明。

CSV：最常用的数据格式
Pickle：用于序列化和反序列化Python对象结构
MessagePack：类似于json，但是更小更块
HDF5：一种常见的跨平台数据储存文件
Feather：一个快速、轻量级的存储框架
Parquet：Apache Hadoop的列式存储格式

——指标说明

为了找到格式来存储数据，本文选择以下指标进行对比。

size_mb：带有序列化数据帧的文件的大小
save_time：将数据帧保存到磁盘所需的时间
load_time：将先前转储的数据帧加载到内存所需的时间
save_ram_delta_mb：在数据帧保存过程中最大的内存消耗增长
load_ram_delta_mb：数据帧加载过程中最大的内存消耗增长

注意，当我们使用有效压缩的二进制数据格式(例如Parquet)时，最后两个指标变得非常重要。它们可以帮助我们估算加载串行化数据所需的RAM数量，以及数据大小本身。我们将在下一部分中更详细地讨论这个问题。

——对比

现在开始对前文介绍的5种数据格式进行比较，为了更好地控制序列化的数据结构和属性我们将使用自己生成的数据集。

下面是生成测试数据的代码，我们随机生成具有数字和分类特征的数据集。数值特征取自标准正态分布。分类特征以基数为C的uuid4随机字符串生成，其中2 <= C <= max_cat_size。

def generate_dataset(n_rows, num_count, cat_count, max_nan=0.1, max_cat_size=100):    dataset, types = {}, {}        def generate_categories():        from uuid import uuid4        category_size = np.random.randint(2, max_cat_size)        return [str(uuid4()) for _ in range(category_size)]        for col in range(num_count):        name = f'n{col}'        values = np.random.normal(0, 1, n_rows)        nan_cnt = np.random.randint(1, int(max_nan*n_rows))        index = np.random.choice(n_rows, nan_cnt, replace=False)        values[index] = np.nan        dataset[name] = values        types[name] = 'float32'            for col in range(cat_count):        name = f'c{col}'        cats = generate_categories()        values = np.array(np.random.choice(cats, n_rows, replace=True), dtype=object)        nan_cnt = np.random.randint(1, int(max_nan*n_rows))        index = np.random.choice(n_rows, nan_cnt, replace=False)        values[index] = np.nan        dataset[name] = values        types[name] = 'object'        return pd.DataFrame(dataset), types

现在我们以CSV文件保存和加载的性能作为基准。将五个随机生成的具有百万个观测值的数据集转储到CSV中，然后读回内存以获取平均指标。并且针对具有相同行数的20个随机生成的数据集测试了每种二进制格式。

同时使用两种方法进行对比：