这几天调bug时发现一处pandas:fillna引起的报错,报错信息是pandas.errors.InvalidIndexError。
因为该脚本以前运行一直正常,结果这几天运行错误,第一反应是:是不是和pandas版本有关系,然后对照了pandas版本发现没啥问题。
如果表示pandas版本问题,然后发现相关脚本最近也没有变化,那么一般来说就只能是数据本身的问题了(事实上一般来说都是数据本身出现问题引起的报错,环境版本引起报错这种情况很少遇见,所以以后要养成这种思维,可以少走一些弯路,一开始就从数据问题方向出发)
- 下面这种情况会报错,因为df_fillna的index重复
df = pd.DataFrame({"a": None}, index=[1,2])
df_fillna = pd.DataFrame({"a": [1,1,2]}, index=[1,1,2])
df=df.fillna(df_fillna)
- 下面这种情况也会报错,因为df的index重复了
df = pd.DataFrame({"a": None}, index=[1, 2, 1, 2])
df_fillna = pd.DataFrame({"a": [1, 2]}, index=[1, 2])
df = df.fillna(df_fillna)
- 有意思的是,当df的index重复,但是重复index紧邻,并且df整体index顺序与df_fillna的index顺序一致时,不会报错。
df = pd.DataFrame({"a": None}, index=[1, 1, 2])
df_fillna = pd.DataFrame({"a": [1, 2]}, index=[1, 2])
df = df.fillna(df_fillna)
- 当df的index重复时,可以用df的index来对df_fillna进行reindex,然后就可以达到想要的效果。
df = pd.DataFrame({"a": None}, index=[1, 2, 1, 2])
df_fillna = pd.DataFrame({"a": [1, 2]}, index=[1, 2])
df_fillna=df_fillna.reindex(df.index)
df = df.fillna(df_fillna)