Task2 数据分析EDA整理笔记

1.概念

EDA(Exploratory Data Analysis)
通过作图、制表、方程拟合、计算特征量等手段探索数据的结构和规律的一种数据分析方法。有利于发现数据的特性和关联性，帮助后续的特征构建。

2.步骤

2.1要用到的一些库

numpy: 数学函数库；
pandas: 基于numpy的一种工具，提供了高效操作大型数据集需要的工具；
scipy: 可以处理插值、积分、优化、图像处理、常微分方程数值求解和信号处理等问题的库；
matplotlib: python绘图库
seabon: 基于matplotlib的图形可视化python库

2.2数据总览

2.2.1 标题和长度

Train_data.head().append(Train_data.tail())

2.2.2 统计量

包含数count、平均值mean、方差std、最小值min、中位数25% 50% 75% 以及最大值 。可以在这个过程中发现一些异常值。

Train_data.describe()

2.2.3 数据类型

了解每个特征的数据类型，用于发现除了nan以外的特殊符号异常。

Train_data.info()

2.3 数据缺失和异常值

2.3.1 数据缺失

（1）输出每列存在nan的情况和个数

Train_data.isnull().sum()

（2）nan可视化

missing = Train_data.isnull().sum()
missing = missing[missing > 0]
missing.sort_values(inplace=True)
missing.plot.bar()
plt.show()

msno.matrix(Train_data.sample(250))

msno.bar(Train_data.sample(1000))

2.3.2 数据异常

(1) 数据类型异常

结合info的结果，查看不为number类型的数据的具体分布，从而找到异常值

Train_data['notRepairedDamage'].value_counts()

将异常值替换为nan

Train_data['notRepairedDamage'].replace('-', np.nan, inplace=True)

（2）数值分布不平衡

对于类别倾斜的特征可以考虑直接删除

Train_data["seller"].value_counts()
del Train_data["seller"]
del Test_data["seller"]

2.4 预测值分布

2.4.1 频数分布

#输出数值
print(Train_data['price'].value_counts())
#可视化频数
plt.hist(Train_data['price'], orientation = 'vertical',histtype = 'bar', color ='red')
plt.show()
#对预测值进行log变换后再可视化频数
plt.hist(np.log(Train_data['price']), orientation = 'vertical',histtype = 'bar', color ='red') 
plt.show()

2.4.2 分布拟合

利用正态分布、log正态分布、无界约翰逊分布等常见分布去拟合数据，探究数据的分布类型

mport scipy.stats as st
y = Train_data['price']
plt.figure(1); plt.title('Johnson SU')
sns.distplot(y, kde=False, fit=st.johnsonsu)
plt.figure(2); plt.title('Normal')
sns.distplot(y, kde=False, fit=st.norm)
plt.figure(3); plt.title('Log Normal')
sns.distplot(y, kde=False, fit=st.lognorm)
plt.show()

2.4.3 偏度（skewness）和峰度(kurtosis)

sns.distplot(Train_data['price']);
print("Skewness: %f" % Train_data['price'].skew())
print("Kurtosis: %f" % Train_data['price'].kurt())

2.5 特征分布

2.5.1 特征分类

2.5.2 unique分布

unique分布指的是数据有几个不同的值

for fea in categorical_features:
    print(Train_data[fea].nunique())

2.5.3 数字特征的分布可视化

f = pd.melt(Train_data, value_vars=numeric_features)
g = sns.FacetGrid(f, col="variable",  col_wrap=2, sharex=False, sharey=False)
g = g.map(sns.distplot, "value")

2.5.4 类别特征的频数可视化

def count_plot(x,  **kwargs):
    sns.countplot(x=x)
    x=plt.xticks(rotation=90)

f = pd.melt(Train_data,  value_vars=categorical_features)
g = sns.FacetGrid(f, col="variable",  col_wrap=2, sharex=False, sharey=False, size=5)
g = g.map(count_plot, "value")

2.6相关性分析

2.6.1 数字特征（包含预测值）之间的相关性分析

#协方差
price_numeric = Train_data[numeric_features]
correlation = price_numeric.corr()
print(correlation['price'].sort_values(ascending = False),'\n')
#任意两个数字特征之间的相关性可视化
sns.set()
columns = ['price', 'v_12', 'v_8' , 'v_0', 'power', 'v_5',  'v_2', 'v_6', 'v_1', 'v_14']
sns.pairplot(Train_data[columns],size = 2 ,kind ='scatter',diag_kind='kde')
plt.show()
#数字特征和预测值之间的相关性可视化，以一个数字特征为例
fig, ((ax1, ax2), (ax3, ax4), (ax5, ax6), (ax7, ax8), (ax9, ax10)) = plt.subplots(nrows=5, ncols=2, figsize=(24, 20))
v_12_scatter_plot = pd.concat([Y_train,Train_data['v_12']],axis = 1)
sns.regplot(x='v_12',y = 'price', data = v_12_scatter_plot,scatter= True, fit_reg=True, ax=ax1)

2.6.2 类别特征之间的相关性分析

类别特征和预测值之间的相关性可视化
用来查看不同的类别下预测值的分布

#箱型图可视化
categorical_features = ['model',
 'brand',
 'bodyType',
 'fuelType',
 'gearbox',
 'notRepairedDamage']
for c in categorical_features:
    Train_data[c] = Train_data[c].astype('category')
    if Train_data[c].isnull().any():
        Train_data[c] = Train_data[c].cat.add_categories(['MISSING'])
        Train_data[c] = Train_data[c].fillna('MISSING')

def boxplot(x, y, **kwargs):
    sns.boxplot(x=x, y=y)
    x=plt.xticks(rotation=90)

f = pd.melt(Train_data, id_vars=['price'], value_vars=categorical_features)
g = sns.FacetGrid(f, col="variable",  col_wrap=2, sharex=False, sharey=False, size=5)
g = g.map(boxplot, "value", "price")
plt.show()

#小提琴图可视化
catg_list = categorical_features
target = 'price'
for catg in catg_list :
    sns.violinplot(x=catg, y=target, data=Train_data)
plt.show()

#柱形图可视化
def bar_plot(x, y, **kwargs):
    sns.barplot(x=x, y=y)
    x=plt.xticks(rotation=90)

f = pd.melt(Train_data, id_vars=['price'], value_vars=categorical_features)
g = sns.FacetGrid(f, col="variable",  col_wrap=2, sharex=False, sharey=False, size=5)
g = g.map(bar_plot, "value", "price")
plt.show()

reference：
https://github.com/datawhalechina/team-learning/blob/master/%E6%95%B0%E6%8D%AE%E6%8C%96%E6%8E%98%E5%AE%9E%E8%B7%B5%EF%BC%88%E4%BA%8C%E6%89%8B%E8%BD%A6%E4%BB%B7%E6%A0%BC%E9%A2%84%E6%B5%8B%EF%BC%89/Task2%20%E6%95%B0%E6%8D%AE%E5%88%86%E6%9E%90.md