引言
数据清洗是一项复杂且繁琐(kubi)的工作,同时也是整个数据分析过程中最为重要的环节。但在实际的工作中一个分析项目70%左右的时间花在清洗数据上面。数据清洗的目的有两个,第一是通过清洗让数据可用。第二是让数据变的更适合进行后续的分析工作。换句话说就是有”脏”数据要洗,干净的数据也要洗。本篇文章将用一个简单的范例来介绍使用pandas进行数据清洗的流程。
读取数据
pandas模块中有专门针对xlsx和xls这类excel文件的读取方法read_excel。当然用的最多的还是read_csv文件。因为excel文件最多只能存储100多万行,但是csv文件可以存储上亿行数据。既然是简单范例,我就只使用execl来读取了。
tt=pd.read_excel(r'd:\\000030.xlsx',sheet_name='Sheet1')
#直接读取硬盘中的excel文件,变成Dataframe格式
表格格式如下图所示: