Python中对字节流/二进制流的操作:struct模块简易使用教程

前言

前段时间使用Python解析IDX文件格式的MNIST数据集，需要对二进制文件进行读取操作，其中我使用的是struct模块。查了网上挺多教程都写的挺好的，不过对新手不是很友好，所以我重新整理了一些笔记以供快速上手。

注：教程中以下四个名词同义：二进制流、二进制数组、字节流、字节数组

快速上手

在struct模块中，将一个整型数字、浮点型数字或字符流（字符数组）转换为字节流（字节数组）时，需要使用格式化字符串fmt告诉struct模块被转换的对象是什么类型，比如整型数字是'i'，浮点型数字是'f'，一个ascii码字符是's'。

def demo1():    
# 使用bin_buf = struct.pack(fmt, buf)将buf为二进制数组bin_buf    
# 使用buf = struct.unpack(fmt, bin_buf)将bin_buf二进制数组反转换回buf    
# 整型数 -> 二进制流    
buf1 = 256    
bin_buf1 = struct.pack('i', buf1) # 'i'代表'integer'    
ret1 = struct.unpack('i', bin_buf1)    
print bin_buf1, '  <====>  ', ret1    
# 浮点数 -> 二进制流    
buf2 = 3.1415    
bin_buf2 = struct.pack('d', buf2) # 'd'代表'double'    
ret2 = struct.unpack('d', bin_buf2)    
print bin_buf2, '  <====>  ', ret2    
# 字符串 -> 二进制流    
buf3 = 'Hello World'  
bin_buf3 = struct.pack('11s', buf3) # '11s'代表长度为11的'string'字符数组    
ret3 = struct.unpack('11s', bin_buf3)    
print bin_buf3, '  <====>  ', ret3    
# 结构体 -> 二进制流    
# 假设有一个结构体    
# struct header {    
#   int buf1;    
#   double buf2;    
#   char buf3[11];    
# }    
bin_buf_all = struct.pack('id11s', buf1, buf2, buf3)    
ret_all = struct.unpack('id11s', bin_buf_all)    
print bin_buf_all,'  <====>  ', ret_all

输出结果如下：

demo1输出结果

详解struct模块

主要函数

struct模块中最重要的三个函数是pack(), unpack(), calcsize()

# 按照给定的格式化字符串，把数据封装成字符串(实际上是类似于c结构体的字节流)string = struct.pack(fmt, v1, v2, ...)# 按照给定的格式(fmt)解析字节流string，返回解析出来的 tupletuple = unpack(fmt, s