python处理二进制数据

python处理二进制数据

分类： Python 2011-09-01 14:01 567人阅读 评论(0) 收藏 举报

 

有的时候需要用python处理二进制数据，比如，存取文件，socket操作时.这时候，可以使用python的struct模块来完成.可以用struct来处理c语言中的结构体.

struct模块中最重要的三个函数是pack(), unpack(), calcsize()

pack(fmt, v1, v2, ...)    按照给定的格式(fmt)，把数据封装成字符串(实际上是类似于c结构体的字节流)

unpack(fmt, string)       按照给定的格式(fmt)解析字节流string，返回解析出来的tuple

calcsize(fmt)             计算给定的格式(fmt)占用多少字节的内存

struct中支持的格式如下表：

> 格式	c类型	python类型
> x	char	无(表示填充字节)
> c	char	长度为1的字符串
> b	signed char	integer
> B	unsigned char	integer
> h	short	integer
> H	unsigned short	integer
> i	int	integer
> I	unsigned int	long
> l	long	integer
> L	unsigned long	long
> q	long long	long
> Q	unsigned long long	long
> f	float	float
> d	double	float
> s	char[]	string
> p	char[]	string
> P	void*	integer

注1.q和Q只在机器支持64位操作时有意思
注2.每个格式前可以有一个数字，表示个数
注3.s格式表示一定长度的字符串，4s表示长度为4的字符串，但是p表示的是pascal字符串
注4.P用来转换一个指针，其长度和机器字长相关

默认情况下struct根据本地机器字节顺序转换.不过可以用格式中的第一个字符来改变对齐方式.定义如下：

> 字符	字节顺序	长度和对齐方式
> @	native	native
> =	native	standard
> <	little-endian	standard
> >	big-endian	standard
> !	network (= big-endian)	standard

有了struct，我们就可以很容易操作二进制数据了.

比如有一个结构体:

struct Header

{

    unsigned short id;

    char[4] tag;

    unsigned int version;

    unsigned int count;

}

通过socket.recv接收到了一个上面的结构体数据，存在字符串s中，现在需要把它解析出来，可以使用unpack()函数.

import struct

id, tag, version, count = struct.unpack("!H4s2I", s)

上面的格式字符串中，!表示我们要使用网络字节顺序解析，因为我们的数据是从网络中接收到的，在网络上传送的时候它是网络字节顺序的.后面的H表示一个unsigned short的id,4s表示4字节长的字符串，2I表示有两个unsigned int类型的数据.

就通过一个unpack，现在id, tag, version, count里已经保存好我们的信息了.

同样，也可以很方便的把本地数据再pack成struct格式.

ss = struct.pack("!H4s2I", id, tag, version, count);

pack函数就把id, tag, version, count按照指定的格式转换成了结构体Header，ss现在是一个字符串(实际上是类似于c结构体的字节流)，可以通过socket.send(ss)把这个字符串发送出去.

点击(此处)折叠或打开

1. #!/usr/env/env python
   
2. #-*- coding: cp936 -*-
   
3. '''''
   
4. add Head Infomation for pcm file
   
5. '''
   
6. import sys
   
7. import struct
   
8. import os
   
9.   
   
10. __author__ = 'bob_hu, hewitt924@gmail.com'
    
11. __date__ = 'Dec 19,2011'
    
12. __update__ = 'Dec 19,2011'
    
13.   
    
14. def geneHeadInfo(sampleRate,bits,sampleNum):
    
15.     '''''
    
16.     生成头信息，需要采样率，每个采样的位数，和整个wav的采样的字节数
    
17.     '''
    
18.     rHeadInfo = '\x52\x49\x46\x46'
    
19.     fileLength = struct.pack('i',sampleNum + 36)
    
20.     rHeadInfo += fileLength
    
21.     rHeadInfo += '\x57\x41\x56\x45\x66\x6D\x74\x20\x10\x00\x00\x00\x01\x00\x01\x00'
    
22.     rHeadInfo += struct.pack('i',sampleRate)
    
23.     rHeadInfo += struct.pack('i',sampleRate * bits / 8)
    
24.     rHeadInfo += '\x02\x00'
    
25.     rHeadInfo += struct.pack('H',bits)
    
26.     rHeadInfo += '\x64\x61\x74\x61'
    
27.     rHeadInfo += struct.pack('i',sampleNum)
    
28.     return rHeadInfo
    
29.         
    
30. if __name__ == '__main__':
    
31.     if len(sys.argv) != 5:
    
32.         print "usage: python %s inFile sampleRate bits outFile" % sys.argv[0]
    
33.         sys.exit(1)
    
34.       
    
35.     fout = open(sys.argv[4],'wb') #用二进制的写入模式
    
36.     #fout.write(struct.pack('4s','\x66\x6D\x74\x20')) #写入一个长度为4的串，这个串的二进制内容为 66 6D 74 20
    
37.     #Riff_flag,afd,fad,afdd, = struct.unpack('4c',fin.read(4)) #读入四个字节，每一个都解析成一个字母
    
38.     #open(sys.argv[4],'wb').write(struct.pack('4s','fmt ')) #将字符串解析成二进制后再写入
    
39.     #open(sys.argv[4],'wb').write('\x3C\x9C\x00\x00\x57') #直接写入二进制内容：3C 9C 00 00 57
    
40.     #fout.write(struct.pack('i',6000)) #写入6000的二进制形式
    
41.   
    
42.     #check whether inFile has head-Info
    
43.     fin = open(sys.argv[1],'rb')
    
44.     Riff_flag, = struct.unpack('4s',fin.read(4))
    
45.     if Riff_flag == 'RIFF':
    
46.         print "%s 有头信息" % sys.argv[1]
    
47.         fin.close()
    
48.         sys.exit(0)
    
49.     else:
    
50.         print "%s 没有头信息" % sys.argv[1]
    
51.         fin.close()
    
52.         #采样率
    
53.         sampleRate = int(sys.argv[2])
    
54.         #bit位
    
55.         bits = int(sys.argv[3])
    
56.           
    
57.         fin = open(sys.argv[1],'rb')
    
58.         startPos = fin.tell()
    
59.         fin.seek(0,os.SEEK_END)
    
60.         endPos = fin.tell()
    
61.         sampleNum = (endPos - startPos)
    
62.         print sampleNum
    
63.         headInfo = geneHeadInfo(sampleRate,bits,sampleNum)
    
64.         fout.write(headInfo)
    
65.         fin.seek(os.SEEK_SET)
    
66.         fout.write(fin.read())
    
67.         fin.close()
    
68.         fout.close()

总的感觉，python本身并没有对二进制进行支持，不过提供了一个模块来弥补，就是struct模块。

python没有二进制类型，但可以存储二进制类型的数据，就是用string字符串类型来存储二进制数据，这也没关系，因为string是以1个字节为单位的。

import struct
a=12.34
bytes=struct.pack(’i',a) #将a变为二进制

此时bytes就是一个string字符串，字符串按字节同a的二进制存储内容相同。

现有二进制数据bytes（其实就是字符串），将它反过来转换成python的数据类型：

a,=struct.unpack(’i',bytes) #注意，unpack返回的是tuple

所以如果只有一个变量的话：

bytes=struct.pack(’i',a)

那么，解码的时候需要这样

a,=struct.unpack(’i',bytes) 或者 (a,)=struct.unpack(’i',bytes)

如果直接用a=struct.unpack(’i',bytes)，那么 a=(12.34,) ，是一个tuple而不是原来的浮点数了。

如果是由多个数据构成的，可以这样：

a=’hello’
b=’world!’
c=2
d=45.123
bytes=struct.pack(’5s6sif’,a,b,c,d)

此时的bytes就是二进制形式的数据了，可以直接写入文件比如 binfile.write(bytes)

然后，当我们需要时可以再读出来，bytes=binfile.read()

再通过struct.unpack()解码成python变量

a,b,c,d=struct.unpack(’5s6sif’,bytes)

‘5s6sif’这个叫做fmt，就是格式化字符串，由数字加字符构成，5s表示占5个字符的字符串，2i，表示2个整数等等，下面是可用的字符及类型，ctype表示可以与python中的类型一一对应。

Format	C Type	Python	字节数
x	pad byte	no value	1
c	char	string of length 1	1
b	signed char	integer	1
B	unsigned char	integer	1
?	_Bool	bool	1
h	short	integer	2
H	unsigned short	integer	2
i	int	integer	4
I	unsigned int	integer or long	4
l	long	integer	4
L	unsigned long	integer	4
q	long long	integer	8
Q	unsigned long long	integer	8
f	float	float	4
d	double	float	8
s	char[]	string	1
p	char[]	string	1
P	void *	long	4

最后一个可以用来表示指针类型的，占4个字节

为了同c中的结构体交换数据，还要考虑有的c或c++编译器使用了字节对齐，通常是以4个字节为单位的32位系统，故而还提供了

Character	Byte order	Size and alignment
@	native	native 凑够4个字节
=	native	standard 按原字节数
<	little-endian	standard 按原字节数
>	big-endian	standard 按原字节数
!	network (= big-endian)	standard 按原字节数

使用方法是放在fmt的第一个位置，就像’@5s6sif’

二进制文件处理时会碰到的问题

我们使用处理二进制文件时，需要用如下方法

binfile=open(filepath,’rb’) #读二进制文件
binfile=open(filepath,’wb’) #写二进制文件

那么和binfile=open(filepath,’r')的结果到底有何不同呢？不同之处有两个地方：

第一，使用’r'的时候如果碰到’0×1A’，就会视为文件结束，这就是EOF。使用’rb’则不存在这个问题。即，如果你用二进制写入再用文本读出的话，如果其中存在’0X1A’，就只会读出文件的一部分。使用’rb’的时候会一直读到文件末尾。

第二，对于字符串x=’abc\ndef’，我们可用len(x)得到它的长度为7，\n我们称之为换行符，实际上是’0X0A’。当我们用’w'即文本方式写的时候，在windows平台上会自动将’0X0A’变成两个字符’0X0D’，’0X0A’，即文件长度实际上变成8.。当用’r'文本方式读取时，又自动的转换成原来的换行符。如果换成’wb’二进制方式来写的话，则会保持一个字符不变，读取时也是原样读取。所以如果用文本方式写入，用二进制方式读取的话，就要考虑这多出的一个字节了。’0X0D’又称回车符。

linux下不会变。因为linux只使用’0X0A’来表示换行。

---

关于 LE little-endian 和 BE big-endian

〖LE little-endian〗

最符合人的思维的字节序，地址低位存储值的低位，地址高位存储值的高位，怎么讲是最符合人的思维的字节序，是因为从人的第一观感来说低位值小，就应该放在内存地址小的地方，也即内存地址低位反之，高位值就应该放在内存地址大的地方，也即内存地址高位。

〖BE big-endian〗

最直观的字节序，地址低位存储值的高位，地址高位存储值的低位，为什么说直观，不要考虑对应关系，只需要把内存地址从左到右按照由低到高的顺序写出，把值按照通常的高位到低位的顺序写出 两者对照，一个字节一个字节的填充进去。

例子：在内存中双字0×01020304的存储方式

LE 04 03 02 01
BE 01 02 03 04