[Elasticsearch] ES更新问题踩坑记录

drop table if exists tmp.test_create_table;

create table if not exists tmp.test_create_table(

id int,

name string

) stored as parquet;

问题排查

---

查看ES数据

发现ES创建表的状态没有正常更新 yn 还是0

查看日志

查看日志, 截取部分关键信息:

ReceiverController] [4eb1c8fd7b 《一线大厂Java面试题解析+后端开发学习笔记+最新架构讲解视频+实战项目源码讲义》无偿开源 威信搜索公众号【编程进阶路】 6987ae] - 接收的hive元数据为:{“data”: …

“eventType”:“DROP_TABLE” …

ReceiverController] [d1aa226b8739d352] - 接收的hive元数据为:{“data”: …

“eventType”:“CREATE_TABLE” …

[Kafka-Consume-Thread-bigdata_aa-0] [ec812addb0bf424d] - update table data to es: … “yn”:0}

[Kafka-Consume-Thread-bigdata_aa-0] [3085b7329053aaac] - update table data to es: … “yn”:1}

日志里有几个关键线索：

1. 建表与删除表的Hive元数据信息正常上报上来了

2. 建表删表事件都执行了更新数据到ES的操作， [Kafka-Consume-Thread-bigdata_aa-0] 可以看出是单线程更新ES， 所以不会存在多线