doris 导入遇tablet writer write failed, err=-235问题解决

最新推荐文章于 2024-08-23 15:52:03 发布

数据游戏

最新推荐文章于 2024-08-23 15:52:03 发布

阅读量7.3k

点赞数 3

分类专栏： Flink 大数据文章标签： java 开发语言后端

本文链接：https://blog.csdn.net/weixin_44889538/article/details/122128695

版权

大数据同时被 2 个专栏收录

18 篇文章 0 订阅

订阅专栏

Flink

10 篇文章 0 订阅

订阅专栏

在使用Flink解析binlog并实时导入到Doris时，遇到tablet writer write failed错误，具体表现为tablet_id=27306172, txn_id=28573520, err=-235。问题根源是数据版本超过最大限制500。解决方案包括动态调整BE参数以增大限制，并通过优化tablet的compaction来提高压缩效率，减少版本数量。建议参考Doris官网和Grafana监控指标进行调优。" 99677085,8730737,Linux7/CentOS 7 用户及权限管理详解,"['Linux系统', '用户及权限管理']

摘要由CSDN通过智能技术生成

doris 遇tablet writer write failed, tablet_id=27306172, txn_id=28573520, err=-235问题解决

我们是通过sql的方式使用flink实时解析binlog日志到doris，但是当并行度提高或者连续插入500条以上数据时就会导入失败，错误提示如下：

detailMessage = close wait failed coz rpc error. NodeChannel[12676-10003] add batch req success but status isn't ok, load_id=c460f48152c24b65-8d4a341254038ded, txn_id=738568, backend id=10003:8060, errmsg=tablet writer write failed, tablet_id=18117, txn_id=738568, err=-235"

之后排查发现是对应tablet的数据版本超过了最大限制500，我们目前的解决办法为，增大此值，并监控此指标设置合适的值，以下是动态设置be参数:

# 查看be配置
http://be-ip:be-port/varz
# 默认配置为max_tablet_version_num=500
curl -X POST http://be-ip:be-port/api/update_config?max_tablet_version_num=2000

此问题doris官网也介绍了可以优化tablet 的 compaction,提高压缩效率，减少版本数量

# 一个 CC 任务最多合并多少个数据版本，默认值 max_cumulative_compaction_num_singleton_deltas=1000
# tablet 的版本数量将会在 1-N 之间浮动，N小则版本数量相对稳定
curl -X POST http://be-ip:be-port/api/update_config?max_cumulative_compaction_num_singleton_deltas=500

附Apache Doris相关博文:
Doris Compaction调优连接
 Apache Doris Grafana 监控指标连接