Kafka Consumer主要参数解释

主要对Kafka 0.9之后的new consumer的参数进行解释:

session.timeout.ms

该参数是consumer group检测成员发生崩溃的时间,比如设置为3分钟,组中有一个consumer崩溃了,则group中的协调器可能需要3分钟才能感知到这个崩溃,重新进行分配分区。

max.poll.interval.ms

表示为consumer处理消息可能需要花费的时间,若超过设定值,那么协调器(coordinator)会认为该consumer已经跟不上其他consumer的消费进度或者说已经崩溃,将该consumer踢出group,重新进行rebalance

auto.offset.reset

表示了无位移信息或者位移越界时Kafka的应对策略。
主要有三个参数:
1、earliest:指定从最早位移开始消费,最早位移不一定为0,会从以保存位移点开始消费
2、latest: 从最新处位移开始消费
3、none:未发现位移信息或者位移越界,抛出异常

enable.auto.commit

表示是否consumer自动提交位移

fetch.max.bytes

表示consumer单词获取数据的最大字节数

max.poll.records

表示单词poll最大消息数,默认500

request.timeout.ms

表示消费者再重新发送请求或达到最大重试次数之前等待相应请求的最大时间

heartbeat.interval.ms

表示的consumer的心跳间隔时间,如何让group中的consumer快速感知开始新一轮rebalance,,会将REBALANCE_IN_PROGRESS异常的形式以consumer心跳请求的response当中

connection.max.idle.ms

kafka会定期关闭socket,导致下次consumer处理请求时需要重新创建于broker之间的socket链接,默认为9分钟,不在乎资源开销,可以设置为-1。

详细请见 https://kafka-python.readthedocs.io/en/master/apidoc/KafkaConsumer.html

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值