pandas大数据量rank函数nan无数据 以及 SettingWithCopyWarning告警问题解决

本文探讨了在使用pandas的rank函数时遇到的`SettingWithCopyWarning`问题,重点介绍了为何df[column]方式可能导致数据丢失,并给出了通过`.loc`操作和复制DataFrame来避免这个问题的方法。
摘要由CSDN通过智能技术生成
  • rank函数问题

刚一开始是这么写的

df_init_['序号'] = df_init_.更新时间.rank(axis=0, method='max', na_option='bottom')  # 按照支付时间排序

,结果发现自己造的十几条数据没有任何问题,也能按照预期排序,但一放进生产上,‘序号’这一列就全部都是nan,如图
在这里插入图片描述

注意看最后一列,也就是‘序号’列,都是nan值,百思不得其解,后来在官网上找到这么几句话
在这里插入图片描述
这里说的很简单,推荐使用df.loc[]这种方式,不推荐使用df[columns]的方式,我相信很多人跟我一样,知道不推荐,但还是要用,因为方便,那这和我们遇到的问题有关系吗?答案是有的,继续往下看,找到了更针对性的话语:
在这里插入图片描述
请特别注意我框出来的地方,这段话很清晰的告诉你,如果你使用df[column]的方式,pandas不保证返回的结果是这个df本身还是一个副本,也就是说,如果返回的是一个副本,那结果很显然,你想要的那个df里自然就没有这一列了,

而这个问题其实在数据量小的时候是看不出来的,上面文档已经说了,返回副本还是视图是由内存决定的,所以我个人推测数据量大的时候内存占用也大,所以就返回一个副本另设定一个变量了,要解决其实也简单,只需要改成这样

df_init_.loc[:, '序号'] = df_init_.更新时间.rank(axis=0, method='max', na_option='bottom')  # 按照支付时间排序

SettingWithCopyWarning

这个问题其实和上面那个一脉相承,与这个标题一同出现的还有两行:
(1)ttingWithCopyWarning:

A value is trying to be set on a copy of a slice from a DataFrame

See the caveats in the documentation: https://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#returning-a-view-versus-a-copy return super().rename(

(2)SettingWithCopyWarning:

A value is trying to be set on a copy of a slice from a DataFrame.

Try using .loc[row_indexer,col_indexer] = value instead

See the caveats in the documentation: https://pandas.pydata.org/pandas-docs/stable/user_guide/indexing.html#returning-a-view-versus-a-copy self.obj[item_labels[indexer[info_axis]]] = value

其实真正的原因还是:python中的“变量”其实是一个“标签”,而不是一个“容器”。当用df=dfSource[…]截取第5至10行后,df实际是一个指向dfSource第5至10的“标签”,在内存中并没有为df分配新的地址存储希望截取的数据。

解决办法也简单,给所有为了想要获取实际有意义的变量df赋值前,先进行copy,例如这样

df_init_ = df_init.copy()

copy之后,df_init_就会获得实际的内存地址和数据,而不是仅仅是指向df_init的的路标。

至此,问题解决完毕

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值