python的dropna 和notna的性能_python-如何从熊猫数据框中提取列表或字典中的非NA值...

我有这样的df

df

AAA BBB CCC

0 4 10 100

1 5 20 50

2 6 30 -30

3 7 40 -50

df_mask = pd.DataFrame({‘AAA’:[真] * 4,’BBB’:[假] * 4,’CCC’:[真,假] * 2})

和df.where(df_mask)是

AAA BBB CCC

0 4 NaN 100.0

1 5 NaN NaN

2 6 NaN -30.0

3 7 NaN NaN

我试图像这样提取非null值.

我试过了,

df [df.where(df_mask).notnull()].to_dict()但它给出了所有值

我的预期输出是

{'AAA': {0: 4, 1: 5, 2: 6, 3: 7},

'CCC': {0: 100.0, 2: -30.0}}

解决方法:

让我们在这里使用agg:

v = df.where(df_mask).agg(lambda x: x.dropna().to_dict())

在较旧的版本中,apply会执行相同的操作(尽管速度较慢).

v = df.where(df_mask).apply(lambda x: x.dropna().to_dict())

现在,为最后一步过滤出带有空字典的行:

res = v[v.str.len() > 0].to_dict()

print(res)

{'AAA': {0: 4.0, 1: 5.0, 2: 6.0, 3: 7.0}, 'CCC': {0: 100.0, 2: -30.0}}

另一个免申请的选项是dict-comprehension:

v = df.where(df_mask)

res = {k : v[k].dropna().to_dict() for k in df}

print(res)

{'AAA': {0: 4, 1: 5, 2: 6, 3: 7}, 'BBB': {}, 'CCC': {0: 100.0, 2: -30.0}}

请注意,此(略)简单的解决方案保留具有空值的键.

标签:data-analysis,pandas,dataframe,python

来源: https://codeday.me/bug/20191108/2010400.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值