python缺失值插补_时间序列数据如何插补缺失值?

时间序列数据的插补, 有很多不同的方法。

当然第一步仍然是判断是Missing at Random 还是Missing Not at Random,一般前者删除,后者插补。但是插补不一定能带来更好结果,要先自己根据缺失比例,和原因判断。

1、就近插补:前推法LOCF, 替换为缺失之前的最后一次观测值,与后推法NOCB, 使用缺失值后面的观测值进行填补。这个是时序当中最基本的方法,当然还有用Baseline Observaton,或者啥Worst observation,目前生科实验好像有用。

2、线性插值:这个也是历史悠久方法, 假定时序之间变动有很强的趋势。早期天文学缺失数据都用这个方法。

3、季节性+线性插值: 经济数据或者季节波动数据,采用这样的方法。同时具备季节性和总体趋势性,很多季节、气候变动相关数据都可以。

4、均值中位数众数,没有考虑时序因素。但是假如你认为时序数据里面基本没有很强趋势,也是可以的。当然里面也还有 比如Conditional Mean这样改进方法。

5、多值插补/机器学习: Multiple Imputation , Expectation-Maximization , Nearest Neighbor ,和 Hot Deck 方法,这些方法都依赖于缺失数据不同属性间关系,寻找最类似样本。如果使用R的话,mice, VIM, AMELIA等都可以用来插补,但是这个必须是多变量时序。如果单变量时序,无法找不同属性关联,用ImputeTS, 然后zoo, 或者forecast。

6、当然还要区别分类还是数值,如果类别变量,NA直接可以划分新分类。

除了这些统计方法, 我想每个领域里面缺失值都肯定还要借鉴专业知识来判断。比如以国家军费缺失数据为例,如果你知道因为战乱带来的缺失。那么战时数据比和平年代数据就更合适,很简单就近填补。

然后插补不同学科可能都有默认或者建议的方法,比如社会学或者人口学无应答问卷数据,大量采用hotdeck,就是假定类似用户类似行为,US Census Bureau也在用。

因为你的是气候数据,看到有的文章在研究气候变化时采用Expectation-Maximization algorithm,R里面mtsdi。见这篇文章 Imputation of missing data in time series for air pollutants。当然python的话里面也有很多。

最后,插补数据方法上如果你对数据生成机制很熟悉的情况下,可能一些简单方法就可以。我对于本身纯粹依赖算法,不能给出解释机制的插补有疑虑。为什么说要增加专业知识判断,因为缺失本身表明这些样本信息不足, 专业知识判断就相当于额外增补信息。

  • 1
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值