tar多线程压缩解压文件

本文介绍了如何使用多线程程序pigz加速tar文件的压缩和解压过程。在4核机器上,2GB文件的压缩时间缩短至1分钟,41GB文件的解压时间从2个半小时减少到40分钟,显著提高了效率。
摘要由CSDN通过智能技术生成

tar多线程压缩解压文件

tar -czvf a.tar.gz ./*

测试每分钟压缩包a.tar.gz增长大约300M

安装多线程程序

yum -y install pigz

实测,4核的机器,2G文件用了不到1分钟

tar --use-compress-program=pigz -cvpf b.tar.gz ./*

top看到系统CPU使用率是390%+

解压测试:41G 的文件,4核的机器,内存16G

tar --use-compress-program=pigz -xvpf sale_1126.tar.gz

top命令看到CPU使用率没有压缩的时候那么高,在50% - 80%之间
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
18241 root 20 0 38676 724 576 S 84.3 0.0 3:34.92 pigz

遇到单个大文件的时候,CPU使用率会比较高一点
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
18241 root 20 0 38676 724 576 R 126.2 0.0 6:47.93 pigz

最后发现只用了40分钟就解压完,之前用了超过2个半小时

之前一直没想tar过用多线程,现在是尝到甜头了,之前怎么就没想过怎么解决压缩解压大文件慢的问题?!!!

  • 6
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值