pandas_profiling

1.describe()和info()函数
pandas里面有两个重要的函数describe()和info()函数，能够查看数据的整体情况，用泰坦尼克数据集演示

import pandas as pd
# 文件路径
path = r'titanic_data.csv'
# 如果你读取的文件是excel而不是csv的话，那么下面改成pd.read_excel
# header=0代表首行是标题列，sep=','代表csv文件里面的分隔符是逗号
titanic_df = pd.read_csv(path, header=0, sep=',')
# 查看数据的整体情况
print(titanic_df.info())
print('*' * 10)
# 查看数值型的均值，标准差等
print(titanic_df.describe())
print('*' * 10)
# 查看不同列维度之间的相关性
print(titanic_df.corr())

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 891 entries, 0 to 890
Data columns (total 12 columns):
 #   Column       Non-Null Count  Dtype  
---  ------       --------------  -----  
 0   PassengerId  891 non-null    int64  
 1   Survived     891 non-null    int64  
 2   Pclass       891 non-null    int64  
 3   Name         891 non-null    object 
 4   Sex          891 non-null    object 
 5   Age          714 non-null    float64
 6   SibSp        891 non-null    int64  
 7   Parch        891 non-null    int64  
 8   Ticket       891 non-null    object 
 9   Fare         891 non-null    float64
 10  Cabin        204 non-null    object 
 11  Embarked     889 non-null    object 
dtypes: float64(2), int64(5), object(5)
memory usage: 83.7+ KB
None
ps:891 entries代表891行，total 12 columns代表12列，Column代表列名，Dtype是数据类型
**********
       PassengerId    Survived      Pclass  ...       SibSp       Parch        Fare
count   891.000000  891.000000  891.000000  ...  891.000000  891.000000  891.000000
mean   446.000000    0.383838    2.308642  ...    0.523008    0.381594   32.204208
std      257.353842    0.486592    0.836071  ...    1.102743    0.806057   49.693429
min       1.000000    0.000000    1.000000  ...    0.000000    0.000000    0.000000
25%     223.500000    0.000000    2.000000  ...    0.000000    0.000000    7.910400
50%     446.000000    0.000000    3.000000  ...    0.000000    0.000000   14.454200
75%     668.500000    1.000000    3.000000  ...    1.000000    0.000000   31.000000
max     891.000000    1.000000    3.000000  ...    8.000000    6.000000  512.329200

ps:count 统计非空值的个数，mean 计算整型或者浮点型的均值，std 标准差，min，max最小值，最大值，25%表示25%的分位数，75%的分位数

[8 rows x 7 columns]
**********
             PassengerId  Survived    Pclass  ...     SibSp     Parch      Fare
PassengerId     1.000000 -0.005007 -0.035144  ... -0.057527 -0.001652  0.012658
Survived       -0.005007  1.000000 -0.338481  ... -0.035322  0.081629  0.257307
Pclass         -0.035144 -0.338481  1.000000  ...  0.083081  0.018443 -0.549500
Age             0.036847 -0.077221 -0.369226  ... -0.308247 -0.189119  0.096067
SibSp          -0.057527 -0.035322  0.083081  ...  1.000000  0.414838  0.159651
Parch          -0.001652  0.081629  0.018443  ...  0.414838  1.000000  0.216225
Fare            0.012658  0.257307 -0.549500  ...  0.159651  0.216225  1.000000

[7 rows x 7 columns]

2.python忽略warning错误

import warnings
warnings.filterwarnings('ignore')

3.pandas_profiling简介
pandas_profiling是第三方库，是基于pandas的DataFrame数据类型，可以简单快速地进行探索性数据分析，这个库只需要三行代码就可以生成数据EDA报告。
对于数据集的每一列，pandas_profiling会提供以下统计信息：

1）概要：数据类型，唯一值，缺失值，内存大小
2）分位数统计：最小值、最大值、中位数、Q1、Q3、最大值，值域，四分位

3）描述性统计：均值、众数、标准差、绝对中位差、变异系数、峰值、偏度系数

4）最频繁出现的值，直方图/柱状图

5）相关性分析可视化：突出强相关的变量，Spearman, Pearson矩阵相关性色阶图

并且这个报告可以导出为HTML，非常方便查看

pip install pandas-profiling

# 这代码是在pycharm运行的，
# -*- coding: utf-8 -*-
import pandas as pd
import pandas_profiling
import warnings
warnings.filterwarnings('ignore')

titanic_df = pd.read_csv(r'titanic_data.csv', encoding='gb18030')
profile = pandas_profiling.ProfileReport(titanic_df)
profile.to_file("output_file.html")