-
发送原理
-
在消息发送的过程中,涉及到了两个线程——main 线程和 Sender 线程。在 main 线程
中创建了一个双端队列 RecordAccumulator。main 线程将消息发送给 RecordAccumulator,
Sender 线程不断从 RecordAccumulator 中拉取消息发送到 Kafka Broker。
发送流程
// acks
properties.put(ProducerConfig.ACKS_CONFIG,“1”);
// 重试次数
properties.put(ProducerConfig.RETRIES_CONFIG,3);
-
Kafka原则
- 在使用send方法时,需要new 一个ProducerRecord
- 在指明partition的情况下,直接将指明是指作为partition值;例如partition=0,所有数据写入分区0
public ProducerRecord(String topic, Integer partition, Long timestamp, K key, V value, Iterable<Header> headers) {
public ProducerRecord(String topic, Integer partition, Long timestamp, K key, V value) {
public ProducerRecord(String topic, Integer partition, K key, V value, Iterable<Header> headers) {
public ProducerRecord(String topic, Integer partition, K key, V value) {
- 在没有指定partition值,但有key的情况下,将key的hash值与topic的partition数进行取余得到partition值;
例如:key1的hash值=5,key的hash值=6,topic的partition数=2,那么key1对应的value1写入1号分区,key2对应的value2写入0号分区
public ProducerRecord(String topic, K key, V value) {
- 既没有partition值又没有key值的情况下,Kakfa采用Sticky Partition(粘性分区器),会随机选择一个分区,并尽可能一直使用该分区,待该分区的batch已满或者已完成,kafka再随机一个分区进行使用(和上一次的分区不同)
例如:第一次随机选择0号分区,等0号分区当前批次满了(默认16k)或者linger.ms设置的时间到了,kafka再随机一个分区进行使用(如果还是0,会继续随机)
public ProducerRecord(String topic, V value) {
生产者如何提高吞吐量
ACK应答级别
ACK机制配置
// acks
properties.put(ProducerConfig.ACKS_CONFIG,"1");
// 重试次数
properties.put(ProducerConfig.RETRIES_CONFIG,3);