时间序列空缺值填补
在时序数据处理中,空缺值的填补很重要,填补可以保证序列的完全性。
比如在
01/01/2020 | |
---|---|
03/01/2020 |
中间就存在缺失值,那么就需要对缺失值进行填补(02/01/2020)
笔者看了几个博客,大家都习惯用365天来进行填补,但是代码就很奇怪
而datetime的格式可以直接+1,那么直接进行递推检测就好了
(string_toDatetime(data_start) + datetime.timedelta(days=1))
那基于这样的想法,我就构建了如下代码
def data_full(df1):
df_date = df1['date'].tolist() # 数据日期转为列表
add_data_list = []
for j in range(0, len(df_date)-1):
data_start = df_date[j]
data_start_next_day = string_toDatetime(
data_start) + datetime.timedelta(days=1)
while datetime_toString(data_start_next_day) != df_date[j+1]:
daily_data_list = []
daily_data_list.append(datetime_toString(data_start_next_day))
for i in range(df1.shape[1]-1):
daily_data_list.append(0)
add_data_list.append(daily_data_list)
data_start_next_day = data_start_next_day + \
datetime.timedelta(days=1)
new_rows = pd.DataFrame(add_data_list, columns=df1.columns)
df1 = pd.concat([df1, new_rows], ignore_index=True)
df1 = df1.sort_values(by=['date'])
return df1
其中还包含了两个datatime和string互转的函数
# 把datetime转成字符串
def datetime_toString(dt):
return str(dt)
# 把字符串转成datetime
def string_toDatetime(data_start):
format = '%Y-%m-%d %H:%M:%S'
return datetime.datetime.strptime(data_start, format)
其中data_full函数都不需要了解其逻辑(懒得写逻辑),直接将你的dataframe传入,然后对于缺少的时间项,也就是对应dataframe的一行,对时间进行填补,而其他值使用0进行填补。
之后就可以完成填补了