数据分析入门task2

本文是作者参与datawhale数据分析项目的学习笔记,主要探讨数据清洗的各个环节,包括缺失值处理(如Age列的填充)、重复值检查与去除,以及特征观察与处理,如数值型特征的离散化和文本变量的转换(如Sex, Cabin, Embarked的编码)。" 113600748,10536344,解决MySQL生僻字插入问题,"['数据库', 'MySQL', '字符编码', '数据迁移']
摘要由CSDN通过智能技术生成

本记录为本人参加datawhale数据分析(泰坦尼克号任务项目)学习笔记,不足之处多多指教。

数据清洗简述

通常我们拿到的数据是不干净的,所谓的不干净,就是数据中有缺失值,有一些异常点等等,需要经过一定的处理才能继续做后面的分析或建模。所以拿到数据的第一步是进行数据清洗,本章我们将学习缺失值、重复值、字符串和数据转换等操作,将数据清洗成可以分析或建模的样子。

缺失值观察

(1) 请查看每个特征缺失值个数

# 方法1 统计基本信息
df.info()
# 方法2 isnull函数
df.isnull().sum()

(2) 请查看Age, Cabin, Embarked列的数据

df[["Age","Cabin","Embarked"]].head()

对缺失值进行处理

1、处理缺失值一般有几种思路
(1)不处理 (2) 特殊值填充(3)平均值填充(4)热卡填充(相似值填充)(5)最近邻法(6) 使用所有可能的值填充(7)模型预测 (8) 多重插补
函数作用:删除含有空值的行或列
DataFrame.dropna(axis=0, how=‘any’, thresh=None, subset=None, inplace=False)
函数作用:填充缺失值
DataFrame.fillna(value=None, method=None, axis=None, inplace=False, limit=None, downcast=None, **kwa

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值