通过Spark SQL实时归档SLS数据

今天，我再举例说明一下如何使用Spark SQL进行流式应用的开发。本文主要分成三部分：

• 流式计算和SQL
• 简要介绍Spark SQL流式开发语法
• 实时归档SLS数据到HDFS

1. 流式计算和SQL

数据的价值随着时间逐渐降低。及时尽早的对数据进行处理提升了数据的价值，所以流式计算系统的应用也越来越广泛。目前常用的流式计算框架有Storm，Spark Streaming及Flink等，也有Kafka Streams这类基于Kafka的流式处理类库。各种流式处理框架都有其各自的API，开发者不可避免的需要学习如何使用这些API。如何提供简单而有效的开发工具，从而把更多的精力投放在业务处理中。所以，各个流式处理系统都逐渐支持SQL API作为开发语言，让使用者可以像处理Table一样处理Stream。例如KSQL支持使用SQL进行流式处理Kafka数据。Spark同样提出来Structured Streaming作为最新一代的流式处理系统，底层的处理引擎也是Spark SQL。不过在上层SQL API，缺少Structured Streaming必要的功能，例如window，watermark等。EMR在Spark开源版本上进行了功能扩展，支持使用SQL API在Spark上进行完整的流式查询开发。

2. Spark SQL流式开发入门

这节将简要介绍Spark SQL中关于流式开的概念和语法。

2.1 建表

当我们需要对流式数据源进行读写操作时，需要首先创建一张表来表示这个数据源。定义表的语法如下：

CREATE TABLE tbName[(columnName dataType [,columnName dataType]*)]
USING providerName
OPTIONS(propertyName=propertyValue[,propertyName=propertyValue]*);

以上语法中，针对特殊source，不要求一定指定表的列定义。当不指定列定义时，会自动识别数据源的schema信息。举一个例子：

【大数据开发学习资料领取方式】：加入大数据学习交流群957205962，点击加入群聊，私信管理员即可免费领取

CREATE TABLE driver_behavior 
USING kafka 
OPTIONS (
kafka.bootstrap.servers = "${BOOTSTRAP_SERVERS}",
subscribe = "${TOPIC_NAME}",
output.mode = "${OUTPUT_MODE}",
kafka.schema.registry.url = "${SCHEMA_REGISTRY_URL}",
kafka.schema.record