Flink kafkaConsumer on kafka

4 篇文章 0 订阅

Flink kafkaConsumer 

要想自定义一个source,在flink里面无非就两种情况:

1.通过实现sourceFunction接口来自定义并行度为1的数据源;

2.通过实现ParallelSourceFunction接口或者继承RichParallelSourceFuncion来自定义具有并行度的数据源。

使用的FlinkKafkaConsumer011 其实也是继承了FlinkKafkaConsumer10 然后FlinkKafkaConsumer10 又继承了RichParallelSourceFunction,然后实现需要的checkpoint和结果相关的接口。

FlinkKafkaConsumer011<T> extends FlinkKafkaConsumer010<T> 
FlinkKafkaConsumer010<T> extends FlinkKafkaConsumerBase<T> 
FlinkKafkaConsumerBase<T> extends RichParallelSourceFunction<T> implements
		CheckpointListener,
		ResultTypeQueryable<T>,
		CheckpointedFunction 

3.kafkaConsumer 有7种构造方法,

单tpoic使用DeserializationSchema;

多个topic的情况,使用list传入后,用KafkaDeserializationSchema;

正则匹配topic,相关主题一点创建就会被订阅,可能业务一直增长,需要新建一个topic,那么就需要使用这种形式,不用重启consumer的情况下消费新的topic的数据;

具体情况看自己的业务需求来分析。

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

꧁꫞ND꫞꧂

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值