flink消费kafka 并行度和kafka的分区关系

1、从消费端看, 如果source的并行度大于kafka的分区,会导致多余的并行度消费不了数据,进而影响checkpoint,flink做checkpoint失败,所以一定不能大于分区数。

2 、从消费端看, 如果source的并行度小于kafka的分区,会导致一个并行度消费多个kafka分区数据,如果数据量大的时候,吞吐率上不去。

3、sink到kafka时,如果并行度大于kafka的分区数时,则会轮训把数据插入到kafka分区中,数据不会丢失。

      

4、sink到kafka时,如果并行度小于kafka的分区数时,也会轮训把数据插入到kafka分区中,数据不会丢失。 因为如果指定key的情况下,则producer会按照hash规则,把数据hash到相应分区中,

生产者数据写入规则( https://blog.csdn.net/zh2475855601/article/details/115346569).

5、也就是说flink sink的时候对kafka并行度影响不大,不会存在数据丢失或者分区没有写入的情况。

 

6、flink 任务 test_groupy_ttl_wpp

  • 1
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
Flink中,设置Flink Kafka并行度取决于所消费Kafka主题的分区数。如果只消费一个主题,则可以将并行度设置为主题的分区数。例如,如果一个主题有4个分区,你可以将并行度设置为4。这样每个Flink任务将消费一个分区。 如果要消费多个主题,可以选择两种方式来设置并行度。第一种方式是将并行度设置为所有主题分区数的总和。比如,如果有两个主题,一个主题有4个分区,另一个主题有6个分区,那么可以将并行度设置为10。这样每个Flink任务将消费多个主题的分区。 另一种方式是使用Robin的方式将数据以round-robin的方式写入不同的Kafka分区。使用这种方式时,可以不用设置sink的并行度Flink会自动将数据以round-robin的方式写入所有Kafka分区。 综上所述,Flink Kafka并行度设置与所消费Kafka主题的分区数有关。根据需要选择合适的并行度设置方式。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [flink kafka 消费以及生产并行度设置](https://blog.csdn.net/longlovefilm/article/details/117400809)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [【Flink实战系列】Flink 消费 kafka 并行度设置多少合理(kafka 的 partition 和 Flink 的 subtask 对应关系...](https://blog.csdn.net/xianpanjia4616/article/details/108983357)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值