pandas中高频函数详细说明

1. merge

合并两个matrix

pd.merge(left, right, how='inner', on=None, left_on=None, right_on=None, left_index=False, right_index=False, sort=False)
concat函数只能根据索引对齐,而如果想在任意上对齐合并,则需要merge函数,其在sql应用很多。

  • left, right: 两个要对齐合并的DataFrame;
  • how: 先做笛卡尔积操作,然后按照要求,保留需要的,缺失的数据填充NaN;
    • left: 以左DataFrame为基准,即左侧DataFrame的数据全部保留(不代表完全一致、可能会存在复制),保持原序;
    • right: 以右DataFrame为基准,保持原序;
    • inner: 交,保留左右DataFrame在on上完全一致的行,保持左DataFrame顺序;
    • outer: 并,按照字典顺序重新排序;
  • on:对应列名或者行索引的名字,如果要在DataFrame相同的列索引做对齐,用这个参数;通常是相同的列索引用于做为merge的key
  • left_on, right_on, left_index, right_index:
    • on对应列名或者行索引的名字(所以行索引一般要跟列一样看待,有自己的名字),用这俩参数;
    • index对应要使用的index,不建议使用,会搞晕。
  • sort: True or False,是否按字典序重新排序。

举例:

  1. result = pd.merge(left, right, how="left", on=["key1", "key2"])
    在这里插入图片描述
  2. result = pd.merge(left, right, how="right", on=["key1", "key2"])
    在这里插入图片描述
  3. result = pd.merge(left, right, how="outer", on=["key1", "key2"])
    在这里插入图片描述
  4. result = pd.merge(left, right, how="inner", on=["key1", "key2"])
    在这里插入图片描述
  5. result = pd.merge(left, right, how="cross")
    在这里插入图片描述

2. set_index

将普通列转换为索引:

DataFrame.set_index(keys, drop=True, append=False, inplace=False)

  • keys:用于转化的列名称,列名或列名的列表,如果是列表则转化为多重索引;
  • drop:True or False,是否保留原列;
  • append:True or False,是否保留当前索引;
  • inplace:True or False,是否原地修改。

3. reset_index

索引列转换为普通列
DataFrame.reset_index(level=None, drop=False, inplace=False, col_level=0, col_fill='')

  • level:int 或者行索引的名字,可以为列表,默认包含所有行索引。
  • drop:True or False,是否将行索引插入到列中,默认是插入;
  • inplace:是否本地修改;
  • col_level:如果列索引也是多重的,那么新插入的列设置哪一重索引;
  • col_fill:如果有多重索引,除了col_level已经设置的

4. 快速查看整体信息

DataFrame.info(verbose=None, memory_usage=True, null_counts=True)

快捷查看多种信息:总行数和列数、每列元素类型和非NaN的个数,总内存。

  • verbose:True or False,字面意思是冗长的,也就说如何DataFrame有很多列,是否显示所有列的信息,如果为否,那么会省略一部分;
  • memory_usage:True or False,默认为True,是否查看DataFrame的内存使用情况;
  • null_counts:True or False,默认为True,是否统计NaN值的个数。

DataFrame.describe(include=[np.number])

快速查看每一列的统计信息,默认排除所有NaN元素。

  • include:'all’或者[np.number 或 np.object]。numberic只对元素属性为数值的列做数值统计,object只对元素属性为object的列做类字符串统计。
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
当涉及到数据清洗的高频面试题时,以下是一些常见的问题和答案: 1. 什么是数据清洗? 数据清洗是指对原始数据进行处理和转换,以去除错误、不完整、重复或不必要的数据,以确保数据的准确性和一致性。 2. 如何处理缺失值? 处理缺失值的常见方法包括删除包含缺失值的行或列、用均值或位数填充缺失值、使用插值方法填充缺失值等。 3. 如何处理重复值? 处理重复值的方法包括删除重复值、保留第一个或最后一个重复值、标记重复值等。 4. 如何处理异常值? 处理异常值的方法包括删除异常值、替换为缺失值、使用统计方法进行修正等。 5. 如何处理不一致的数据格式? 处理不一致的数据格式可以使用字符串操作函数(如strip、lower、replace等)进行格式化,或者使用正则表达式进行匹配和替换。 6. 如何处理数据类型转换? 可以使用Python的内置函数(如int、float、str等)进行数据类型转换,或者使用pandas的astype函数进行批量转换。 7. 如何处理日期和时间数据? 可以使用Python的datetime模块进行日期和时间数据的解析、格式化和计算,或者使用pandas的to_datetime函数进行批量转换。 8. 如何处理文本数据? 处理文本数据的方法包括去除特殊字符、分词、去除停用词、词干提取、词向量化等。 9. 如何处理数据集合的合并和拆分? 可以使用pandas的merge函数进行数据集合的合并,使用split函数进行数据集合的拆分。 10. 如何处理数据集的异常值和离群点? 可以使用统计方法(如均值、标准差)进行异常值和离群点的检测和修正,或者使用可视化工具(如箱线图、散点图)进行可视化分析。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值