本文较长,可以自行选择需要的观看
处理文件是我们每天最常见的任务之一。 Python具有几个用于执行文件操作的内置模块,例如读取文件,移动文件,获取文件属性等。本文总结了您需要了解的许多功能,以涵盖Python中最常见的文件操作和良好做法。
这是您将在本文中看到的模块/功能图。 要了解有关每个操作的更多信息,请继续阅读。
打开和关闭文件
当您要读取或写入文件时,首先要做的就是打开文件。 Python具有打开的内置函数,该函数打开文件并返回文件对象。 文件对象的类型取决于打开文件的模式。 它可以是文本文件对象,原始二进制文件和缓冲的二进制文件。 每个文件对象都有诸如 read() 和 write() 之类的方法。
该代码块中有问题,您能识别出来吗? 我们将在后面讨论。
Python文档列出了所有可能的文件模式。 表中列出了最常见的模式。 一个重要的规则是,任何与w相关的模式都将首先截断该文件(如果存在),然后创建一个新文件。 如果您不想覆盖文件,请谨慎使用此模式,并尽可能使用附加模式。
上一个代码块中的问题是我们只打开了文件,但没有关闭文件。 在处理文件时始终关闭文件很重要。 拥有打开的文件对象可能会导致不可预测的行为,例如资源泄漏。 有两种方法可以确保正确关闭文件。
1.使用close()
第一种方法是显式使用 close() 。 一个好的做法是将其放入最后,以便我们可以确保在任何情况下都将关闭该文件。 它使代码更加清晰,但另一方面,开发人员应该承担责任,不要忘记关闭它。
2.使用上下文管理器,将 open(...) 设置为f
第二种方法是使用上下文管理器。 如果您不熟悉上下文管理器,那么请查阅 Dan Bader 用Python编写的上下文管理器和 “ with” 语句。 与 open() 一起使用,因为f语句实现 __enter__ 和 __exit__ 方法来打开和关闭文件。 此外,它将 try / finally 语句封装在上下文管理器中,这意味着我们将永远不会忘记关闭文件。
这个上下文管理器解决方案是否总是比 close() 更好? 这取决于您在哪里使用它。 以下示例实现了将50,000条记录写入文件的3种不同方式。 从输出中可以看到, use_context_manager_2()函数与其他函数相比性能极低。 这是因为 with 语句在单独的函数中,它基本上为每个记录打开和关闭文件。 这种昂贵的 I / O 操作会极大地影响性能。
Python作为一门不断发展与普及的语言,还在不断更新中。在学习时,建议找一些学习伙伴一起来学习和讨论,效果更佳。如果想学习Python,欢迎加入Python学习交流群(627012464),一起督促,一起学习。里面有开发工具,很多干货和技术资料分享!
读写文件
打开文件后,您必须要读取或写入文件。文件对象提供了三种读取文件的方法,分别是 read(), readline() 和 readlines() 。
默认情况下, read(size = -1) 返回文件的全部内容。如果文件大于内存,则可选参数 size 可以帮助您限制返回的字符(文本模式)或字节(二进制模式)的大小。
readline(size = -1) 返回整行,最后包括字符\ n。如果size大于0,它将从该行返回最大字符数。
readlines(hint = -1) 返回列表中文件的所有行。可选参数 hint 表示如果返回的字符数超过了hint,则将不返回任何行。
在这三种方法中, read() 和 readlines() 的内存效率较低,因为默认情况下,它们以字符串或列表形式返回完整的文件。一种更有效的内存迭代方式是使用 readline() 并使其停止读取,直到返回空字符串。空字符串“”表示指针到达文件末尾。
在编写方面,有两种方法 write() 和 writelines() 。 顾名思义, write()是 写一个字符串,而 writelines() 是写一个字符串列表。 开发人员有责任在末尾添加\ n。
如果您将文本写入特殊的文件类型(例如 JSON 或 csv ),则应在文件对象顶部使用Python内置模块 json 或 csv 。
在文件内移动指针
当我们打开文件时,我们得到一个指向特定位置的文件处理程序。 在r和w模式下,处理程序指向文件的开头。 在一种模式下,处理程序指向文件的末尾。
tell() 和 seek()
当我们从文件中读取时,指针将移动到下一个读取将开始的位置,除非我们告诉指针移动。 您可以使用2种方法来做到这一点: tell() 和 seek() 。
tell() 以文件开头的字节数/字符数的形式返回指针的当前位置。 seek(offset,whence = 0) 将处理程序移到一个位置, offset 字符距离 wherece 。 地点可以是:
- 0:从文件开头
- 1:从当前位置开始
- 2:从文件末尾开始
在文本模式下, wherece 仅应为0,偏移应≥0。
了解文件状态
操作系统上的文件系统可以告诉您许多有关文件的实用信息。 例如,文件的大小,创建和修改的时间。 要在Python中获取此信息,可以使用os或pathlib模块。 实际上,os和pathlib之间有很多共同之处。 pathlib是比os更面向对象的模块。
操作系统
获取完整状态的一种方法是使用 os.stat(“ test.txt”) 。 它返回具有许多统计信息的结果对象,例如 st_size (文件大小,以字节为单位), st_atime (最新访问的时间戳), st_mtime (最新修改的时间戳)等。
您也可以使用 os.path 单独获取统计信息。
路径库
获取完整状态的另一种方法是使用 pathlib.Path(“ text.txt”.stat()) 它返回与 os.stat()相同的对象。
在以下各节中,我们将比较 os 和 pathlib 的更多方面。
复制,移动和删除文件
Python有许多内置模块来处理文件移动。 在您信任Google返回的第一个答案之前,您应该意识到,不同的模块选择会导致不同的性能。 一些模块将阻塞线程,直到文件移动完成,而其他模块则可能异步执行。
关闭
shutil是用于移动,复制和删除文件和文件夹的最著名的模块。 它提供了4种仅复制文件的方法。 copy() , copy2() 和 copyfile() 。
copy() 与 copy2() : copy2() 与 copy() 非常相似。 不同之处在于 copy2() 还复制文件的元数据,例如最近的访问时间,最近的修改时间。 但是根据Python文档,由于操作系统的限制,即使 copy2() 也无法复制所有元数据。
copy() 与 copyfile() : copy() 将新文件的权限设置为与原始文件相同,但是copyfile()不会复制其权限模式。 其次, copy() 的目标可以是目录。 如果存在同名文件,则将其覆盖,否则,将创建一个新文件。 但是, copyfile() 的目的地必须是目标文件名。
os
os模块具有一个 system() 函数,允许您在子 shell 中执行命令。 您需要将该命令作为参数传递给 system() 。 这与在操作系统上执行的命令具有相同的效果。 为了移动和删除文件,您还可以在 os 模块中使用专用功能。
异步复制/移动文件
到目前为止,解决方案始终是同步的,这意味着如果文件很大并且需要更多时间移动,则程序可能会被阻止。 如果要使程序异步,则可以使用 threading , multiprocessing 或 subprocess模块使文件操作在单独的线程或单独的进程中运行。
搜索文件
复制和移动文件后,您可能需要搜索与特定模式匹配的文件名。 Python提供了许多内置函数供您选择。
glob
glob 模块根据 Unix shell 使用的规则查找与指定模式匹配的所有路径名。 它支持通配符,例如*?。 []。
glob.glob(“ *。csv”) 搜索当前目录中所有具有csv扩展名的文件。 使用glob模块,还可以在子目录中搜索文件。
os
os模块是如此强大,以至于它基本上可以执行文件操作。 我们可以简单地使用os.listdir()列出目录中的所有文件,并使用 file.endswith() 和 file.startswith() 来检测模式。 如果要遍历目录,请使用 os.walk() 。
pathlib
pathlib 具有与 glob 模块类似的功能。 也可以递归搜索文件名。 与以前的基于os的解决方案相比, pathlib 具有更少的代码,并且提供了更多的面向对象的解决方案。
播放文件路径
使用文件路径是我们执行的另一项常见任务。 它可以获取文件的相对路径和绝对路径。 它也可以连接多个路径并找到父目录等。
相对路径和绝对路径
os和pathlib都提供了获取文件或目录的相对路径和绝对路径的功能。
联接 路径
这是我们可以独立于环境连接os和pathlib中的路径的方式。 pathlib使用斜杠创建子路径。
获取父目录
dirname() 是在os中获取父目录的函数,而在 pathlib 中,您可以仅使用 Path() 。parent来获取父文件夹。
操作系统 路径库
最后但并非最不重要的一点是,我想简要介绍一下 os 和 pathlib 。 如Python文档所述, pathlib 是比 os 更面向对象的解决方案。 它将每个文件路径表示为适当的对象,而不是字符串。 这给开发人员带来了很多好处,例如,使连接多个路径变得更加容易,在不同的操作系统上更加一致,并且可以直接从对象访问方法。
我希望本文可以提高您处理文件的效率。