自学Python之路 第九章 文件读写相关

自学Python之路

四川农业大学——大数据实验室第四次打卡

第九章

9.1 IO编程

·IO在计算机中指Input/Output，也就是输入输出。由于程序和运行时数据是在内存中驻留，由cpu这个超快的计算核心来执行，涉及到数据交换的地方，通常是磁盘、网络等，就需要IO接口。
·由于CPU和内存的速度远远高于外设的速度，所以，在IO编程中就存在速度严重不匹配的问题，解决此办法有两种方法：
1、同步IO：指CPU等着，等数据写入磁盘完成时，再接着往下执行。好比你去麦当劳点个汉堡，服务员告诉你需要等10分钟，于是你就站在这等十分钟拿到汉堡了再去做其他事。
2、异步IO：指CPU不等待，只是告诉磁盘：您老慢慢写，我去做别的事了。于是代码就可以接着执行下去。即再等待汉堡这十分钟你去逛了会超市。
·很明显，使用异步IO来编写程序性能会远远高于同步IO，但是异步IO的缺点是编程模型更加复杂。因为在你逛超市的时候你得知道什么时候通知你，而且通知你的方法也不尽相同：是服务员过来找你，这是回调模式。如果服务器发短信通知你，你就得不停检查手机，这是轮询模式。总之，异步IO的复杂度远高于同步IO。
（本章都用同步IO模式）

文件读写

·读写文件是最常见的IO操作。Python内置了读写文件的函数，用法和C是兼容的。
·读写文件前，我们必须先了解一下在磁盘上读写文件的功能都是由操作系统提供的，现代操作系统不允许普通的程序直接操作磁盘，所以读写文件就是请求操作系统打开一个文件对象（通常称之为文件描述符），然后通过操作系统提供的接口从这个文件对象中读取数据（读文件），或者把数据写入这个文件对象（写文件）。
·读文件时，用open（）函数，再传入文件名和标识符。标记符‘r’表示read（读）。如果文件不存在，函数会抛出一个IOError的错误：

·如果文件打开成功，接下来可调用read（）方法一次读取文件的全部内容，最后记得用close（）关闭文件：

·但是由于文件读写时都有可能产生IOError，一旦出错，后面的f.close()就不会调用，所以，为了保证无论是否出错都能正确关闭文件，我们可以用try…fanally来实现：

·但是每次都这么写实在过于繁琐，所以，python引入了with语句来自动帮我们调用close（）方法：

·file-like Object:像open（）函数这种有个read（）方法的对象，在python中统称为file-like Object。除了file外，还可以是内存的字节流，网络流，自定义流等等。file-like Object不要求从特定类继承，只要写个read（）方法就行。（StringIO就是在内存中创建的file-like Object，常用作临时缓冲）

·二进制文件：前面讲的默认都是读取文本文件，并且都是utf-8编码的文本文件。要读取二进制文件，比如图片、视频等等，用’rb‘模式打开文件即可：

·字符编码：要读取一个非utf-8编码的文本文件，需要给open（）函数传入encoding参数，例如，读取GBK编码的文件：

· 写文件：

9.3 StringIO和BytesIO

· StringIO：顾名思义，就是指在内存中读写str。要把str写入StringIO，我们首先需要创建一个StringIO，然后像文件一样写入即可：

· 要读取StringIO，可以用一个str初始化StringIO，然后像读文件一样读取：

· BytesIO：StringIO操作的只能是str，如果要操作二进制数据，就需要使用BytesIO：

·和StringIO类似，也可以用一个bytes初始化BytesIO，再像读文件一样读取：

小结

StringIO和BytesIO是在内存中操作str和bytes的方法，使得和读写文件具有一致的接口。

操作文件和目录

· 操作文件和目录的函数一部分放在os模块中，一部分放在os.path模块中：

· 把两个路径合成一个时，不要直接拼接字符串，而是要通过os.path.join()函数，这样可以正确处理不同操作系统的路径分隔符。在Linux/Unix/Max下，os.path.join()返回这样的字符串：part-1/part-2。而windows下会返回part-1\part-2。
· 拆分路径时，是通过os.path.split()函数，这样可以把一个路径拆分为两部分，其中后一部分总是最后级别的目录或文件名。另外os.path.splitext()可以让你直接得到文件扩展名（合并、拆分等操作只是简单地对字符串操作，并不要求目录和文件真实存在）：

· 以下函数对文件进行实际操作：

· 复制文件的函数在os模块中不存在，原因是复制文件并非由操作系统提供的系统调用。shutil模块可以看做是os模块的补充，它提供了copyfile（）函数。

·利用python的特性来过滤文件：

9.5 序列化

·序列化定义：把变量从内存中变成可存储或传输的过程称之为序列化，在Python中叫pickling，在其他语言中叫serialization、marshalling等。
· 序列化之后，就可以把序列化后的内容写入磁盘，或者通过网络传输到其他机器上。pickle.dumps（）方法把任意对象序列化成一个bytes，就可以把这个bytes写入文件：

· 或者也可以用pickle.dump（）直接把对象序列化之后写入一个file-like Object：

· 反过来，把序列化的对象重新读到内存里称之为反序列化，即unpickling

·注意：pickle的问题在于只能用于python，并且可能不同版本的python彼此都不兼容，因此，只能用pickle保存那些不重要的数据，不能成功反序列化也没关系那种。

· JSON：其表示的对象就是标准的JavaScipt语言的对象。JSON和Python内置的数据类型对应如下：

· 如果我们要在不同的编程语言之间传递对象，就必须把对象序列化为标准格式，比如XML，但更好的方法是序列化为JSON，因为JSON表示出来就是一个字符串，可以被所有语言读取，也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式，并且比XML更快，而且可以直接在Web页面中读取，非常方便。

· python内置的json模块提供了非常完善的python对象到JSON格式的转换，可以先试下如何把python对象变成一个JSON（dumps（）方法返回一个str，内容就是标准的JSON。类似的，dump（）方法可以直接把JSON写入一个file-like Object）：

· 要把JSON反序列化为python对象，用loads（）或者对应的load（）方法，前者把JSON的字符串反序列化，后者从file-like Object中读取字符串并反序列化：