python异常值替换为缺失值_删除异常值(+/-3std)并在Python/pandas中替换为np.nan

我看到了几种接近解决我问题的方法

但是到目前为止他们还没有帮助我成功。

我相信下面的解决方案是我所需要的,但是仍然会出现一个错误(而且我没有声誉点来评论/质疑它):link

(我得到以下错误,但不知道在管理以下命令时,.copy()或添加“inplace=True”的位置:

设置为复制警告:

试图在数据帧切片的副本上设置值。

试着用.loc[row_indexer,col_indexer] = value代替

请参阅文档中的注意事项:link

所以,我试着提出我自己的版本,但我一直被卡住。给你。

我有一个按时间编制索引的数据框架,其中包含站点的列(许多不同站点的字符串值)和浮点值。time_index site val

我想浏览按站点分组的“val”列,并将任何异常值(与平均值的正负3个标准差)替换为NaN(每组)。

当我使用以下函数时,我无法使用真/假向量索引数据帧:def replace_outliers_with_nan(df, stdvs):

dfnew=pd.DataFrame()

for i, col in enumerate(df.sites.unique()):

dftmp = pd.DataFrame(df[df.sites==col])

idx = [np.abs(dftmp-dftmp.mean())<=(stdvs*dftmp.std())] #boolean vector of T/F's

dftmp[idx==False]=np.nan #this is where the problem lies, I believe

dfnew[col] = dftmp

return dfnew

另外,我担心上面的函数在700多万行上会花费很长时间,这就是为什么我希望使用groupby函数选项。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值