Kafka 异步发送被阻塞

1.Kafka异步发送时,当kafka服务器关掉(已验证,会发生),或发送的buffer.memory堆满(未验证)时,异步发送被阻塞,报异常。

[2021-09-08 16:10:33,087] - org.apache.kafka.common.errors.TimeoutException: Topic sms.moreport.topic3333 not present in metadata after 5000 ms.

2.尝试解决方案

(1)在Callback的回调方法中,处理异常,保存数据到db(本地数据库rocksdb,或远程数据库mysql),避免丢数据。

new Callback() {
                    @Override
                    public void onCompletion(RecordMetadata recordMetadata, Exception e) {
                        if(e != null) {
                            Helpers.getInstance.toLocalDb(data);
                            logger.error("transfer error,data = "+ data +",ex = "+ e);
                        }
                    }
                }

(2)用redis的setex方法,设置kafka可发送的一个标识,15s超时删除(如果远程redis也崩了,就只有本地数据库最可靠了,不过线上运行的redis一般集群部署,出现redis宕机几率不高),

(3)新的数据需要添加到kafka时都先检查kafka可发标识,如果存在就不发送,直接持久化到db.

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值