Kafka零数据丢失的配置方案

要实现Kafka数据不丢失,需关注生产者、服务端和消费者的配置。生产者应使用带回调的API,设置acks为-1并调整重试次数;服务端需禁止unclean选举,设置合适replication.factor和min.insync.replicas;消费者应手动提交offset,避免自动提交导致的数据丢失。此外,还需考虑操作系统缓存和磁盘持久化的影响。
摘要由CSDN通过智能技术生成

如果要想保证Kafka数据不丢, 要从Kafka的三个地方入手:生产者、服务端和消费者。
生产者
01 / API使用
在生产中Kafka生产者的开发我们都会用异步调用的方式,异步调用方式有如下两个API:
1)producer.send(msg) 不带回调方法
2)producer.send(msg,callback) 带回调方法
记得要使用带有回调方法的API,我们可以根据回调函数得知消息是否发送成功,如果发送失败了我们要进行异常处理,比如存储到其他介质来保证消息不丢。
02 / acks参数设置
acks这个参数有三个值:0,1,-1,但是不同的参数对应的含义不同,那如果我们想要保证数据不丢,acks值应该设置为哪个参数呢?请看下面的表格:
| 0 | 代表生产者只要把消息发送出去以后就认为消息发送成功了,这种方式有可能会导致数据丢失,因为有可能消息发送到服务端以后服务端存储失败了。 |
|1|代表生产者把消息发送到服务端,服务端的leader replica 副本写成功以后,就返回生产者消息发送成功了,这种方式也有可能会导致丢数据,因为有可能刚好数据写入到leader replica,然后返回处理成功的响应给生产者,假如这个时候leader replica在的服务器出问题了,follower replica还没来得及同步数据,这个时候是会丢数据的。|
| -1(all) | 代表生产者把消息发送到服务端,服务端的ISR列表里所有replica 都写入成功以后,才会返回成功响应给生产者。假设ISR列表里面有该分区的三个replica(一个leader

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值