presto查询apache druid的数据插入到kudu偶尔报错:GENERIC_INTERNAL_ERROR(65536)
java.lang.IllegalArgumentException:Unknow field druid.druid.数据源名称.字段名:varchar
com.google.common.base.Preconditions.checkArgument(Preconditions.java:216)
查看druid日志发现对应报错:
Unknown exception(org.apache.calcite.tools.ValidationException):org.apache.calcite.runtime.CalciteContextException:From line 2,column 8 to line 2,column 12:Column ‘字段名’ not found in any table
另外使用superset获取druid对应数据源的数据预览时也偶尔会报错
问题分析:
1.首先判断应该是druid的问题,同一个操作只是偶尔报错,怀疑是druid broker的问题。
2.通过不同broker查询同一数据源的的列数量的发现结果不一致(SQL:SELECT COUNT(*) columnCount FROM INFORMATION_SCHEMA.COLUMNS WHERE TABLE_NEME=‘数据源名称’),可能是由于滚动重启broker时,historical还未对所有segment提供服务(重启historical后未完成segment load,还在逐步load segment),导致不同时刻通过segment获取到的维度指标等SCHEMA信息有差异。
解决办法:在historical加载完segment后重启broker,保证broker通过segment获取到的维度指标等SCHEMA信息一致。后续重启broker要保证集群中的所有segment都正常对外提供服务。
总结:报错出现的原因是两次获取的SCHEMA信息不一致,不一致可能是由于增加、删除列,或者修改列名、列数据类型导致的。解决SCHEMA信息不一致的问题,即可解决当前报错。