今天跑py程序,第一次数据错乱,字段对应不上:
分析原因:
测试单独执行,测试单独上传文件,测试hdfs客户端上传文件
最后发现,多次写入错误数据,导致该表的元数据出现混乱,即使是hive的内部表,drop掉表后,重新上传文件到hive的相同表名,使用hive查询没问题,一旦使用impala查询依旧有莫条数据出现字段不对应情况,原因大概是元数据刷新问题,hive在将内部表删除后,impala虽然和hive数共享元数据的,但是impala读取到重新上传的数据时,依旧是上一次的错误元数据,导致文件的offset和表的元数据对应不上,莫条数据报错。
目前我的解决方法:更换表名即可,原因应该是该表名下的元数据依旧错乱,即使drop后刷新元数据,依旧没用,只能更换表名,mysql保存的元数据待进一步查看
同一条语句hive和impala查询结果不一致
最新推荐文章于 2022-04-06 11:47:54 发布