今天在做memcache优化时,想对memcache中插入的数据做压缩,但memcache在做数据压缩时,在一定的大小内做压缩反而适得其反,顾想做一个实验,来查找多大的数据比较好!
1. 首先,需要知道所要压缩的数据的大小,这时我们就需要一些python函数来做处理,在C中可以通过sizeof来确定对象的大小,在python中,如何来确定呢?
对于一般的数字类型及字符串,可以通过sys.getsizeof(xxx)来获取,如下:
#!/usr/bin/env python
#coding:utf-8
#filename:objectsize.py
'''
author: gavingeng
date: 2012-02-16 22:46:56
'''
import sys
class A():
pass
class B(object):
def __init__(self,id):
self.id=id
class B1(B):
pass
class C:
x=0
class C1(object):
x=0
def d():
pass
def e(x=None):
pass
def foo(x):
x=9
def main():
for obj in [1,2**31,2**50,1.9,None,True,'haha','',u'',u'haha',u'11',(),(1,),(1,2),{},{'1':'1'},dict(zip(range(5),range(5))),object,A,A(),B,B(1),B1,B1(7),C,C(),C1,C1(),d,e,foo]:
print obj,sys.getsizeof(obj)
if __name__=='__main__':
main()
结果如下:
1 12
2147483648 18
1125899906842624 20
1.9 16
None 8
True 12
haha 25
21
28
haha 44
11 36
() 24
(1,) 28
(1, 2) 32
{} 136
{'1': '1'} 136
{0: 0, 1: 1, 2: 2, 3: 3, 4: 4} 136
<type 'object'> 436
__main__.A 48
<__main__.A instance at 0xb7805fec> 32
<class '__main__.B'> 448
<__main__.B object at 0xb780802c> 28
<class '__main__.B1'> 448
<__main__.B1 object at 0xb780804c> 28
__main__.C 48
<__main__.C instance at 0xb780806c> 32
<class '__main__.C1'> 448
<__main__.C1 object at 0xb780808c> 28
<function d at 0xb77ee224> 56
<function e at 0xb77ee79c> 56
<function foo at 0xb77eeb1c> 56
对于array,我们需要做一些处理
2. 在google后,发现一篇stackoverflow上的文章,我们需要导入pylab来做处理,这属于pythonxy集合函数包中的,我们需要做如下操作:
pip install NumPy pip install scipy sudo apt-get install python-matplotlib
来完成所需包的安装
3.这时我们可以import该包来做处理
from pylab import *
import sys
if __name__=='__main__':
A = rand(10)
B = rand(10000)
print sys.getsizeof(A),sys.getsizeof(B)
print A.nbytes,B.nbytes
参考:
http://stackoverflow.com/questions/449560/how-do-i-determine-the-size-of-an-object-in-python
这是pythoner自己做处理的
http://www.flatws.cn/article/program/python/2011-05-14/25786.html
http://code.activestate.com/recipes/546530/
http://www.keakon.net/2010/02/15/Python2.6%E5%8F%AF%E4%BB%A5%E7%94%A8sys.getsizeof%E8%8E%B7%E5%8F%96%E5%AF%B9%E8%B1%A1%E5%A4%A7%E5%B0%8F