Kafka 生产者消息分区原理
生产者压缩算法
Kafka 无消息丢失的配置
- 不要使用 producer.send(msg),而要使用 producer.send(msg,
callback)。记住,一定要使用带有回调通知的 send 方法。 - 设置 acks = all。acks 是 Producer 的一个参数,代表了你对“已提交”消息的定义。如果设置成
all,则表明所有副本 Broker 都要接收到消息,该消息才算是“已提交”。这是最高等级的“已提交”定义。 - 设置 retries 为一个较大的值。这里的 retries 同样是 Producer 的参数,对应前面提到的 Producer
自动重试。当出现网络的瞬时抖动时,消息发送可能会失败,此时配置了 retries > 0 的 Producer
能够自动重试消息发送,避免消息丢失。 - 设置 unclean.leader.election.enable = false。这是 Broker 端的参数,它控制的是哪些Broker 有资格竞选分区的 Leader。如果一个 Broker 落后原先的 Leader 太多,那么它一旦成为新的Leader,必然会造成消息的丢失。故一般都要将该参数设置成 false,即不允许这种情况的发生。<