数据科学包9-pandas高级内容之数据IO

数据IO

从磁盘读取数据、将数据保存到磁盘上

• 索引：将一个列或多个列读取出来构成 DataFrame，其中涉及是否从文件中读取索引以及列名
• 类型推断和数据转换：包括用户自定义的转换以及缺失值标记
• 日期解析
• 迭代：针对大文件进行逐块迭代。这个是Pandas和Python原生的csv库的最大区别
• 不规整数据问题：跳过一些行，或注释等等

1.索引及列名

处理不规则的分隔符

列名

索引

2.缺失值处理

查看帮助文档

3.逐块读取数据-读取数据更快

4.保存数据到磁盘

5.二进制数据

二进制的优点是容量小，读取速度快。缺点是可能在不同版本间不兼容。比如 Pandas 版本升级后，早期版本保存的二进制数据可能无法正确地读出来。

6.其他格式简介

• HDF5: HDF5是个C语言实现的库，可以高效地读取磁盘上的二进制存储的科学数据。
• Excel文件: pd.read_excel/pd.ExcelFile/pd.ExcelWriter
• JSON: 通过 json 模块转换为字典，再转换为 DataFrame
• SQL 数据库：通过 pd.io.sql 模块来从数据库读取数据
• NoSQL (MongoDB) 数据库：需要结合相应的数据库模块，如 pymongo 。再通过游标把数据读出来，转换为 DataFrame
  具体可查官方帮助文档