flink读取MySQL维表_flink维表关联系列之Redis维表关联:实时查询

本文介绍了如何在Flink中实现低延迟的维表关联,通过实时查询Redis来获取维表信息。示例代码展示了一个RichAsyncFunction类型的RedisSide类,用于异步查询Redis中的广告主ID。主流程部分展示了从Kafka消费数据,然后通过RedisSide进行维表关联,并打印结果。测试数据验证了方法的有效性。
摘要由CSDN通过智能技术生成

在做维表关联如果要求低延时,即维表数据的变更能够被立刻感知到,所以就要求在查询时没有缓存策略,直接查询数据库维表信息。

本篇以实时查询redis为例,要求redis 客户端支持异步查询,可以使用io.lettuce包,支持redis不同模式:单点模式、sentinel模式、集群模式,需要在pom中引入:

io.lettuce

lettuce-core

5.0.5.RELEASE

io.netty

netty-all

4.1.24.Final

关于其不同模式的用法可以参考:https://juejin.im/post/5d8eb73ff265da5ba5329c66

里面做了比较详细的说明,为方便测试使用单点模式,仍以广告业务为例,根据广告位ID从redis里面查询对位的广告主ID。

Redis中数据准备:

hmset 1 aid 1 cid 1

hmset 2 aid 1 cid 2

使用hash结构,key表示广告位ID、aid表示广告主ID、cid表示广告计划ID

定义RichAsyncFunction类型的RedisSide,异步查询Redis

class RedisSide extends RichAsyncFunction[AdData, AdData] {

private var redisClient: RedisClient = _

private var connection: StatefulRedisConnection[String, String] = _

private var async: Redi

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值