本篇要解决的问题:
- Flink SQL中的表和Spark SQL中的表有何区别?
- 当我们在Flink代码中写下一个SQL语句,它是怎么查询的?
- Append-only Stream、Retract Stream以及UpsertStream分别代表什么?
- Flink SQL中如果要基于Window做聚合,怎么实现?
- 在Flink SQL中的时间属性就是定义一个时间列吗?
- 请说明tableEnv.toAppendStream和tableEnv.toRetractStream的区别。
重新理解流处理中的表
表我们非常熟悉,因为最早我们接触RDBMS,学习MySQL、Oracle这种数据库的时候就有接触了。但在我们的认知中,表是一个有界的,我们一次就可以获取到全部数据的结构。
而在Flink中,其中核心是它的无界流处理, Flink也确实把有界流作为无界流的一种特例来去处理的。那大家来考虑,如果表的概念放在流中会是什么样的呢?如果大家真的去思考了,会有一堆的困惑。这些困惑不是我们写几行Flink SQL或者Table API就可以清楚的。
接下来,我就从概念层面来理解Flink SQL,这样我们将来才能更好地编写API,不至于出了问题根本不知道从哪儿下手。
不断变化的表和不间断的查询
在Flink中,它把针对无界流的表称之为Dynamic Table(动态表)。它是Flink Table API和SQL的核心概念。顾名思义,它表示了Table是不断变化的。
我们可以这样来理解,当我们用Flink的API,建立一个表,其实把它理解为建立一个逻辑结构,这个逻辑结构需要映射到数据上去。Flink source源源不断的流入数据,就好比每次都往表上新增一条数据。表中有了数据,我们就可以使用SQL去查询了。要注意一下,流处理中的数据是只有新增的,所以看起来数据会源源不断地添加到表中。
动态表也是一种表,既然是表,就应该能够被查询。我们来回想一下原先我们查询表的场景。
- 打开编译工具,编写一条SQL语句
- 将SQL语句放入到mysql的终端执行
- 查看结果
- 再编写一条SQL语句
- 再放入到终端执行
- 再查看结果
- …..如此反复
而针对动态表,Flink的source端肯定是源源不断地会有数据流入,然后我们基于这个数据流建立了一张表,再编写SQL语句查询数据,进行处理。这个SQL语句一定是不断地执行的。而不是只执行一次。注意:针对流处理的SQL绝对不会像批式处理一样,执行一次拿到结果就完了。而是会不停地执行,不断地查询获取结果处理。所以,官方给这种查询方式取了一个名字,叫Continuous Query,中文翻译过来叫连续查询。而且每一次查询出来的数据也是不断变化的。
这是一个非常简单的示意图。该示意图描述了:我们通过建立动态表和连续查询来实现在无界流中的SQL操作。大家也可以看到,在Continuous上面有一个State,表示查询出来的结果会存储在State中,再下来Flink最终还是使用流来进行处理。
所以,我们可以理解为Flink的Table API和SQL,是一个逻辑模型,通过该逻辑模型可以让我们的数据处理变得更加简单。而模型之下,是Dynamic Table和Continuous Query,这也是区分SQL批处理的重点。
表中会有Update和Delete吗?
我们前面提到的表示不断地Append,表的数据是一直累加的,因为表示对接Source的,Source是不会有update的。但如果我们编写了一个SQL。这个SQL看起来是这样的:
SELECT user, sum(money) FROM order GROUP BY user;
当执行一条SQL语句之后,这条语句的结果还是一个表,因为在Flink中执行的SQL是Continuous Query,这个表的数据是不断变化的。新创建的表存在Update的情况。仔细看下下面的示例,例如:
- 第一条数据,张三,2000,执行这条SQL语句的结果是,张三,2000
- 第二条数据,李四,1500,继续执行这条SQL语句,结果是,张三,2000 | 李四,1500
- 第三条数据,张三,300,继续执行这条SQL语句,结果是,张三,2300 | 李四,1500
- ….
大家发现了吗,现在数据结果是有Update的。张三一开始是2000,但后面变成了2300。
那还有删除的情况吗?
有的。看一下下面这条SQL语句:
SELECT t1.`user`, SUM(t1.`money`) FROM t_order t1
WHERE
NOT EXISTS (SELECT T2.`user`AS TOTAL_MONEY FROM t_order t2 WHERE T2.`user` = T1.`user` GROUP BY t2.`user` HAVING SUM(T2.`money`) > 3000)
GROUP BY t1.`user`GROUP BY t1.`user`
- 第一条数据,张三,2000,执行这条SQL语句的结果是,张三,2000
- 第二条数据,李四,1500,继续执行这条SQL语句,结果是,张三,2000 | 李四,1500
- 第三条数据,张三,300,继续执行这条SQL语句,结果是,张三,2300 | 李四,1500
- 第四条数据,张三,800,继续执行这条SQL语句,结果是,