数据背景介绍
来源:工业生产实际–西门子公司
数据细看
1.数据大小
2.数据格式
3.数据类型
1、有哪些
2、干什么
3、有什么用
4、数据的分布
5、数据的EDA
6、具体业务具体分析–如果一个业务你很熟悉的话那这个就不是问题了,你自己应该知道要做什么。
一、明确数据才是魂魄–你要找一个合适的东西来读取它并展示好它、dask、spark、集群。
import pandas as pd
import pandas_profiling as ppf
train_data = pd.read_csv("data/first_round_training_data.csv")
test_data = pd.read_csv("data/first_round_testing_data.csv")
print(train_data.head()) ##显示前五行
print(test_data.describe()) ##对数据整体性的统计
# 查看数据具体点的内容
##是否有缺失值
train_data.Parameter1.isnull().sum()##先判断是否有空,然后再统计个数
test_data.isnull().sum()
## 数据类型查看--明白数据类型转换
train_data.dtypes
test_data.dtypes
##数据大小查看
train_data.info()##查看具体的信息内容
len(train_data)
test_data.info()
ppf.ProfileReport(train_data)
ppf.ProfileReport(test_data)