Python数据分析，系统步骤介绍！

  摘要

在用Python做数据分析的过程中，有一些操作步骤和逻辑框架是很固定的，只需要记住其用法即可。本节内容介绍Pandas模块在数据分析中的常用方法。

  内容目录

1、数据的生成与导入

2、数据信息查看

    2.1、查看整体数据信息

    2.2、查看数据维度、列名称、数据格式

    2.3、查看数据特殊值和数值

        2.3.1、查看空值

        2.3.2、查看唯一值

        2.3.3、查看数值

        2.3.4、查看前后数据

3、数据的清洗和预处理等步骤

    3.1、空值处理

    3.2、空格处理

    3.3、字符串大小写处理

    3.4、更改数据类型和列名称

    3.5、重复值处理

    3.6、数据替换

    3.7、数据合并和排序

    3.8、数据分组

4、数据提取和筛选

    4.1、按位置提取

    4.2、按标签提取

    4.3、按条件提取

    4.4、数据筛选

5、数据汇总与统计量计算

    5.1、groupby用法

    5.2、数据透视表用法

    5.3、数据采样

    5.4、数据求均值 ，方差等

    5.5、数据求相关系数

6、数据存储

    6.1、存储到Execl

    6.2、存储到CSV

  1、数据的生成与导入

说明：

• 利用Pandas里面的read系列可直接读取相应格式的数据文件。

• 生成数据直接创建一个Dataframe即可

• 本次数据为泰坦尼克号数据

  2、数据信息查看

目的：了解数据的概况，例如整个数据表的大小、所占空间、数据格式、是否有空值和重复项，为后面的清洗和预处理做准备。

限于篇幅，只对其中一种方法进行截图展示。例：查看前五行数据

  3、数据的清洗和预处理等步骤

对清洗完的数据进行预处理整理以便后期的统计和分析工作。

例如更改列名：

数据合并：

Pandas具有功能全面的高性能内存中连接操作，与SQL等关系数据库非常相似。

合并方式：

• • inner

  • outer

  • left

  • right

组合方式：

• • left_on + right_on

  • left_on + right_index

  • left_index + right_on

  • left_index + right_index

数据排序：

数据分组：

例如：把泰坦尼克号火灾等级分成：‘high’，‘low’

结果：

更多关于预处理请阅读：

  4、数据提取和筛选

• 数据提取：使用loc和iloc配合相关函数。

• 筛选：使用与，或，非三个条件配合大于，小于和等于对数据进行筛选。

  5、数据汇总与统计量计算

关于groupby和数据透视表请阅读：

相关系数结果：

  6、数据存储