之前写了认证集群搭建和认证集群模式下生产消息的内容。本次将介绍认证集群模式下的消费消息。写博文的时候刚好项目涉及到同时要监听多个topic,而且不同topic有对应不同的groupid以及用户名密码的情况。所以本次实现了动态配置多组监听的场景,同理其它配置也可以修改配置多套。Talk is cheap
配置内容:
kafka:
consumer:
# topic::groupId::账号::密码,英文逗号分割
cp: topic1::groupid1::user1::pwd1,topic2::groupid2::user2::pwd2
# 账号密码
security:
# 加密协议(和认证集群搭建时候的配置内容对应)
protocol: SASL_PLAINTEXT
# 加密方式(和认证集群搭建时候的配置内容对应)
sasl-mechanism: SCRAM-SHA-256
bootstrap-servers: IP1:PORT1,IP2:PORT2,IP3:PORT3
# 提交offset频率
auto-commit-interval-ms: 1000
# 偏移量失效后latest-从最新的消息读 earliest-从最早的消息开始读
auto-offset-reset: earliest
# 是否开启批量获取消息(区分是batch还是single--自定义属性)
batch-listener: true
# 并发数
concurrency: 5
# 是否自动提交offset(告知kafka当前consumer group读取到的消息位置)
enable-auto-commit: true
# 最大的等待获取消息时间(最多多久就要获取一次)与fetch-min-bytes满足一个条件,broker就会发送消息给consumer
fetch-max-wait-ms: 1000
# 最小获取消息字节数
fetch-min-bytes: 1048576
# 一次获取最大记录数
max-poll-records: 10000
# 获取记录超时时间
max-poll-time-out: 30000
# 轮询策略org.apache.kafka.clients.consumer.RangeAssignor 和 org.apache.kafka.clients.consumer.RoundRobinAssignor
partition-assignment-strategy: org.apache.kafka.clients.consumer.RoundRobinAssignor
session-time-out-ms: 30000
配置代码:(写的仓促,这个类可以用@ConfigurationProperties改造一下
)
@Configuration
@EnableKafka
@Slf4j
public class KafkaConsumerConfig {
private static final Integer CONSUMER_CONFIGS_COUNT = 15;
@Value("${kafka.consumer.bootstrap-servers}")
private String bootstrapServers;
@Value("#{'${kafka.consumer.cp}'.split(',')}")
private List<String> cpList;
@Value("${kafka.consumer.enable-auto-commit}")
private boolean autoCommit;
@Value("${kafka.consumer.auto-commit-interval-ms}")
private Integer autoCommitIntervalMs;
@Value("${kafka.consumer.concurrency}")
private Integer concurrency;
@Value("${kafka.consumer.batch-listener}")
private