Debezium系列之:debezium集群生产环境参数最优设置
这片博客文章详细记录了与Debezium集群设置相关非常重要的kafka参数,以及经过多轮优化后参数最优设置。
一、认识Debezium与设置相关非常重要的kafka参数
producer.buffer.memory:
- producer.buffer.memory参数用于指定Producer端用于缓存消息的缓冲区大小,单位为字节,默认值为:33554432合计为32M。
- kafka采用的是异步发送的消息架构,prducer启动时会首先创建一块内存缓冲区用于保存待发送的消息,然后由一个专属线程负责从缓冲区读取消息进行真正的发送。
retries:
- retries参数用来配置生产者重试的次数,默认值为0,即在发生异常的时候不重试。
- 消息在从生产者发出到成功写入服务器之前可能发生一些临时性的异常,比如网络抖动、leader副本的选举等,这种异常往往是可以自行恢复的,生产者可以通过配置retries大于0的值,以此通过内部重试来恢复而不是一味地将异常抛给生产者的应用程序。如果重试达到设定的次数,那么生产者就会放弃重试并返回异常。
- 不过并不是所有的异常