hdf5 vs cpickle

HDF5加载一个98M的文件用时:0.087s

cPickle加载一个50M的文件用时:7.6s

87倍啊。好厉害的样子。

HDF5加载一个8G的文件用时:52.278s

cPickle加载一个4G的文件用时:643.07s

12.3倍啊。已经很可以了。

还是建议大家用hdf5.

在压缩的时候请大家注意,图片最好选择格式为uint8.否则会很大,例如我的一个文件,用cPcikle 压缩是50M,结果默认的没有选择格式直接压到了99M,但是选择了uint8之后,就一下子压缩到了24M,很厉害呦,哈哈

我的是这样用的:

out_file=h5py.File('E:/temp/%s_%s.h5'% (video_name[3:],event_name) ,'w')
 out_file.create_dataset('pic',data=sample_container)



import numpy as np
import h5py
begain_t=time.time()
file=h5py.File('e:/pure_pos/20071101_E1_CAM1_Pointing.h5','r')
data=file['pic'][:]
print len(data[1])
print '%f'%(time.time()-begain_t)


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值