Flink通过异步IO实现redis维表join

使用flink做实时数仓的公司越来越多了,浪尖这边也是很早就开发了一个flink 全sql平台来实现实时数仓的功能。说到实时数仓,两个表的概念大家一定会知道的:事实表和维表。

在实时数仓中,事实表就是flink消费的kafka的topic数据流,而维表和离线数仓一样,就是mysql等外部存储的维表。

当flink 事实表需要 使用维表来进行染色的时候,就需要flink 与维表进行join,这是需要注意与外部系统的通信延迟不会影响流应用程序的整体工作。

直接访问外部数据库中的数据,例如在MapFunction中,通常意味着同步交互:向数据库发送请求,并且MapFunction等待直到收到响应。在许多情况下,这种等待占据了函数的绝大部分时间。

为了解决这个问题flink支持了异步IO的操作,与数据库的异步交互意味着单个并行task的实例可以同时处理许多请求并同时接收响应。这样,可以通过发送其他请求和接收响应来覆盖等待时间。至少,等待时间在多个请求上均摊。这会使得大多数情况下流量吞吐量更高。

Flink异步IO第一讲

关于异步IO要关注的点,主要是:

  1. 有序IO的API。orderedWait请求的顺序和返回的顺序一致。
  2. 无序IO的API。unorderedWait,主要是请求元素的顺序与返回元素的顺序不保证一致。

问浪尖比较多的还有两个参数含义:

  • 0
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Flink 中,我们可以使用 Flink 的 Table API 或 DataStream API 与 Redis 进行维表关联查询。 下面是一个使用 Flink Table API 和 Redis 进行维表关联查询的示例代码: ```java // 创建 Redis 连接配置 RedisOptions redisOptions = new RedisOptions() .setHost("localhost") .setPort(6379); // 创建 Redis 维表 RedisTableSource redisTableSource = RedisTableSource.builder() .forHostPort("localhost", 6379) .withTableName("myTable") .withColumnNames("key", "value") .build(); // 注册 Redis 维表 tableEnv.registerTableSource("myTable", redisTableSource); // 执行关联查询 Table result = tableEnv.sqlQuery("SELECT t1.*, t2.value FROM myDataStream AS t1 JOIN myTable AS t2 ON t1.key = t2.key"); ``` 在上面的示例中,我们首先创建了一个 Redis 连接配置,然后使用 `RedisTableSource` 创建了一个 Redis 维表,并将其注册到 Flink 的 Table API 中。最后,我们执行了一条 SQL 查询,将一个数据流和 Redis 维表进行关联查询,并将结果保存在 `result` 变量中。 如果你想使用 DataStream API 进行维表关联查询,可以使用 `RedisLookupTableFunction`。下面是一个示例代码: ```java // 创建 Redis 连接配置 RedisOptions redisOptions = new RedisOptions() .setHost("localhost") .setPort(6379); // 创建 Redis 维表 RedisLookupTableFunction redisLookupTableFunction = new RedisLookupTableFunction("myTable", redisOptions, "key", "value"); // 执行关联查询 DataStream result = dataStream .keyBy("key") .connect(redisLookupTableFunction) .process(new MyProcessFunction()); ``` 在上面的示例中,我们首先创建了一个 Redis 连接配置,然后使用 `RedisLookupTableFunction` 创建了一个 Redis 维表查询函数。最后,我们将数据流按照 `key` 字段进行分区,并将其与 Redis 维表查询函数连接起来,最后使用 `process` 方法执行关联查询

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值