Spark Streaming整合Kafka
1.1 Kafka快速回顾
1.1.1 核心概念图解
- Broker : 安装Kafka服务的机器就是一个broker
- Producer :消息的生产者,负责将数据写入到broker中(push)
- Consumer:消息的消费者,负责从kafka中拉取数据(pull),老版本的消费者需要依赖zk,新版本的不需要
- Topic: 主题,相当于是数据的一个分类,不同topic存放不同业务的数据 --主题:区分业务
- Replication:副本,数据保存多少份(保证数据不丢失) --副本:数据安全
- Partition:分区,是一个物理的分区,一个分区就是一个文件,一个Topic可以有1~n个分区,每个分区都有自己的副本 --分区:并发读写
- Consumer Group:消费者组,一个topic可以有多个消费者/组同时消费,多个消费者如果在一个消费者组中,那么他们不能重复消费数据 --消费者组:提高消费者消费速度、方便统一管理
- 注意:一个Topic可以被多个消费者或者组订阅,一个消费者/组也可以订阅多个主题
- 注意:读数据只能从Leader读, 写数据也只能往Leader写,Follower会从Leader那里同步数据过来做副本!!!
1.1.2 kafka集群部署
参见 Kafka入门-集群搭建
1.1.3 常用命令
- 启动kafka
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-server-start.sh apps/kafka_2.10-0.8.2.1/config/server.properties > /dev/null 2>&1 &
- 停止kafka
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-server-stop.sh
- 查看topic信息
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-topics.sh --list --zookeeper 192.168.72.128:2181
- 创建topic
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-topics.sh --create --zookeeper 192.168.72.128:2181 --replication-factor 3 --partitions 3 --topic test
- 查看某个topic信息
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-topics.sh --describe --zookeeper 192.168.72.128:2181 --topic test
- 删除topic
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-topics.sh --zookeeper 192.168.72.128:2181 --delete --topic test
- 启动生产者–控制台的生产者一般用于测试
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-console-producer.sh --broker-list 192.168.72.128:9092 --topic test
- 启动消费者–控制台的消费者一般用于测试
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-console-consumer.sh --zookeeper 192.168.72.128:2181 --topic test--from-beginning
// 或者
/home/hadoop/apps/kafka_2.10-0.8.2.1/bin/kafka-console-consumer.sh --zookeeper 192.168.72.128:2181,192.168.72.129:2181,192.168.72.130:2181 --topic test --from-beginning
1.2 整合Kafka两种模式说明
开发中我们经常会利用SparkStreaming实时地读取kafka中的数据然后进行处理,在spark1.3版本后,kafkaUtils里面提供了两种创建DStream的方法:
- 1.Receiver接收方式:
KafkaUtils.createDstream:
Receiver作为常驻的Task运行在Executor等待数据,但是一个Receiver效率低,需要开启多个,再手动合并数据(union),再进行处理,很麻烦。Receiver那台机器挂了,可能会丢失数据,所以需要开启WAL(预写日志)保证数据安全,那么效率又会降低!Receiver方式是通过zookeeper来连接kafka队列,调用Kafka高阶API,offset存储在zookeeper,由Receiver维护,spark在消费的时候为了保证数据不丢也会在Checkpoint中存一份offset,可能会出现数据不一致,所以不管从何种角度来说,Receiver模式都不适合在开发中使用了,已经淘汰了。 - 2.Direct直连方式:
KafkaUtils.createDirectStream:
Direct方式是直接连接kafka分区来获取数据,从每个分区直接读取数据大大提高了并行能力,Direct方式调用Kafka低阶API(底层API),offset自己存储和维护,默认由Spark维护在checkpoint中,消除了与zk不一致的情况,当然也可以自己手动维护,把offset存在mysql、redis中,所以基于Direct模式可以在开发中使用,且借助Direct模式的特点+手动操作可以保证数据的Exactly once 精准一次。 - 扩展:关于消息语义
实现方式 | 消息语义 | 存在的问题 |
---|---|---|
Receiver | at most once 最多被处理一次 | 会丢失数据 |
Receiver+WAL | at least once 最少被处理一次 | 不会丢失数据,但可能会重复消费,且效率低 |
Direct+手动操作 | exactly once只被处理一次 精准一次 | 不会丢失数据,也不会重复消费,且效率高 |
- 注意:
开发中SparkStreaming和kafka集成有两个版本:0.8及0.10+
0.8版本有Receiver和Direct模式(但是0.8版本生产环境问题较多,在Spark2.3之后不支持0.8版本了)。
0.10以后只保留了direct模式(Reveiver模式不适合生产环境),并且0.10版本API有变化(更加强大)。
1.3 spark-streaming + kafka_0.8(了解)
1.3.1 Receiver
KafkaUtils.createDstream使用了receivers来接收数据,利用的是Kafka高层次的消费者api,偏移量由Receiver维护在zk中,对于所有的receivers接收到的数据将会保存在Spark executors中,然后通过Spark Streaming启动job来处理这些数据,默认会丢失,可启用WAL日志,它同步将接受到数据保存到分布式文件系统上比如HDFS。保证数据在出错的情况下可以恢复出来。尽管这种方式配合着WAL机制可以保证数据零丢失的高可靠性,但是启用了WAL效率会较低,且无法保证数据被处理一次且仅一次,可能会处理两次。因为Spark和ZooKeeper之间可能是不同步的。
官
方
现
在
已
经
不
推
荐
这
种
整
合
方
式
\color{#FF3030}{官方现在已经不推荐这种整合方式}
官方现在已经不推荐这种整合方式
- 准备工作
- 启动zookeeper集群
apps/zookeeper/bin/zkServer.sh start - 启动kafka集群
apps/kafka/bin/kafka-server-start.sh config/server.properties > /dev/null 2>&1 & - 创建topic
apps/kafka/bin/kafka-topics.sh --create --zookeeper 192.168.72.128:2181 --replication-factor 1 --partitions 2 --topic test - 通过shell命令向topic发送消息
kafka-console-producer.sh --broker-list 192.168.72.128:9092 --topic test
发送的信息体为: hadoop spark sqoop hadoop spark hive hadoop - 添加kafka的pom依赖
<dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-streaming-kafka-0-8_2.11</artifactId> <version>2.2.0</version> </dependency>
- 启动zookeeper集群
- API
通过receiver接收器获取kafka中topic数据,可以并行运行更多的接收器读取kafak topic中的数据,这里为3个
val receiverDStream: immutable.IndexedSeq[ReceiverInputDStream[(String, String)]] = (1 to 3).map(x => {
val stream: ReceiverInputDStream[(String, String)] = KafkaUtils.createStream(ssc, zkQuorum, groupId, topics)
stream
})
如果启用了WAL(spark.streaming.receiver.writeAheadLog.enable=true)可以设置存储级别(默认StorageLevel.MEMORY_AND_DISK_SER_2)
- 代码演示
import org.apache.spark.streaming.dstream.{DStream, ReceiverInputDStream}
import org.apache.spark.streaming.kafka.KafkaUtils
import org.apache.spark.streaming.{Seconds, StreamingContext}
import org.apache.spark.{SparkConf, SparkContext}
import scala.collection.immutable
object SparkKafka {
def main(args: Array[String]): Unit = {
//1.创建StreamingContext
val config: SparkConf =
new SparkConf().setAppName("SparkStream").setMaster("local[*]")
.set("spark.streaming.receiver.writeAheadLog.enable", "true")
//开启WAL预写日志,保证数据源端可靠性
val sc = new SparkContext(config)
sc.setLogLevel("WARN")
val ssc = new StreamingContext(sc,Seconds(5))
ssc.checkpoint("D:/kafka")
//==============================================
//2.准备配置参数
val zkQuorum = "192.168.72.128:2181,192.168.72.129:2181,192.168.72.130:2181"
val groupId = "spark"
val topics = Map("test" -> 2)//2表示每一个topic对应分区都采用2个线程去消费,
//ssc的rdd分区和kafka的topic分区不一样,增加消费线程数,并不增加spark的并行处理数据数量
//3.通过receiver接收器获取kafka中topic数据,可以并行运行更多的接收器读取kafak topic中的数据,这里为3个
val receiverDStream: immutable.IndexedSeq[ReceiverInputDStream[(String, String)]] = (1 to 3).map(x => {
val stream: ReceiverInputDStream[(String, String)] = KafkaUtils.createStream(ssc, zkQuorum, groupId, topics)
stream
})
//4.使用union方法,将所有receiver接受器产生的Dstream进行合并
val allDStream: DStream[(String, String)] = ssc.union(receiverDStream)
//5.获取topic的数据(String, String) 第1个String表示topic的名称,第2个String表示topic的数据
val data: DStream[String] = allDStream.map(_._2)
//==============================================
//6.WordCount
val words: DStream[String] = data.flatMap(_.split(" "))
val wordAndOne: DStream[(String, Int)] = words.map((_, 1))
val result: DStream[(String, Int)] = wordAndOne.reduceByKey(_ + _)
result.print()
ssc.start()
ssc.awaitTermination()
}
}
执行结果如下:
1.3.2. Direct
Direct方式会定期地从kafka的topic下对应的partition中查询最新的偏移量,再根据偏移量范围在每个batch里面处理数据,Spark通过调用kafka简单的消费者API读取一定范围的数据。
- Direct的缺点是无法使用基于zookeeper的kafka监控工具
- Direct相比基于Receiver方式有几个优点:
- 简化并行: 不需要创建多个kafka输入流,然后union它们,sparkStreaming将会创建和kafka分区数一样的rdd的分区数,而且会从kafka中并行读取数据,spark中RDD的分区数和kafka中的分区数据是一一对应的关系。
- 高效:Receiver实现数据的零丢失是将数据预先保存在WAL中,会复制一遍数据,会导致数据被拷贝两次,第一次是被kafka复制,另一次是写到WAL中。而Direct不使用WAL消除了这个问题。
- 恰好一次语义(Exactly-once-semantics): Receiver读取kafka数据是通过kafka高层次api把偏移量写入zookeeper中,虽然这种方法可以通过数据保存在WAL中保证数据不丢失,但是可能会因为sparkStreaming和ZK中保存的偏移量不一致而导致数据被消费了多次。Direct的Exactly-once-semantics(EOS)通过实现kafka低层次api,偏移量仅仅被ssc保存在checkpoint中,消除了zk和ssc偏移量不一致的问题。
- API
KafkaUtils.createDirectStream[String, String, StringDecoder, StringDecoder](ssc, kafkaParams, topics) - 代码演示:
import kafka.serializer.StringDecoder
import org.apache.log4j.{Level, Logger}
import org.apache.spark.streaming.dstream.{DStream, InputDStream}
import org.apache.spark.streaming.kafka.KafkaUtils
import org.apache.spark.streaming.{Seconds, StreamingContext}
import org.apache.spark.{SparkConf, SparkContext}
object SparkKafka2 {
def main(args: Array[String]): Unit = {
Logger.getLogger("org").setLevel(Level.WARN)
//1.创建StreamingContext
val config: SparkConf =
new SparkConf().setAppName("SparkStream").setMaster("local[*]")
val sc = new SparkContext(config)
sc.setLogLevel("WARN")
val ssc = new StreamingContext(sc,Seconds(5))
ssc.checkpoint("D:/kafka1")
//==============================================
//2.准备配置参数
val kafkaParams = Map("metadata.broker.list" -> "192.168.72.128:9092,192.168.72.129:9092,192.168.72.130:9092", "group.id" -> "spark")
val topics = Set("test")
val allDStream: InputDStream[(String, String)] = KafkaUtils.createDirectStream[String, String, StringDecoder, StringDecoder](ssc, kafkaParams, topics)
//3.获取topic的数据
val data: DStream[String] = allDStream.map(_._2)
//==============================================
//WordCount
val words: DStream[String] = data.flatMap(_.split(" "))
val wordAndOne: DStream[(String, Int)] = words.map((_, 1))
val result: DStream[(String, Int)] = wordAndOne.reduceByKey(_ + _)
result.print()
ssc.start()
ssc.awaitTermination()
}
}
通过命令行Kafka生产者发送消息:
hadoop spark sqoop hadoop spark hive hadoop
控制台打印结果如下:
spark-streaming + kafka_0.10
- 说明
spark-streaming-kafka-0-10版本中,API有一定的变化,操作更加灵活,开发中使用 - pom.xml
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-streaming-kafka-0-10_2.11</artifactId>
<version>${spark.version}</version>
</dependency>
- API 官方说明
http://spark.apache.org/docs/latest/streaming-kafka-0-10-integration.html - 创建topic
- /home/hadoop/apps/kafka/bin/kafka-topics.sh --create --zookeeper 192.168.72.128:2181 --replication-factor 3 --partitions 3 --topic test
- 启动生产者
/home/hadoop/apps/kafka/bin/kafka-console-producer.sh --broker-list 192.168.72.128:9092,192.168.72.129:9092,192.168.72.130:9092 --topic test - 代码演示
import org.apache.kafka.clients.consumer.ConsumerRecord
import org.apache.kafka.common.serialization.StringDeserializer
import org.apache.spark.streaming.dstream.{DStream, InputDStream}
import org.apache.spark.streaming.kafka010.{ConsumerStrategies, KafkaUtils, LocationStrategies}
import org.apache.spark.streaming.{Seconds, StreamingContext}
import org.apache.spark.{SparkConf, SparkContext}
object SparkKafkaDemo {
def main(args: Array[String]): Unit = {
//1.创建StreamingContext
//spark.master should be set as local[n], n > 1
val conf = new SparkConf().setAppName("wc").setMaster("local[*]")
val sc = new SparkContext(conf)
sc.setLogLevel("WARN")
val ssc = new StreamingContext(sc,Seconds(5))//5表示5秒中对数据进行切分形成一个RDD
//准备连接Kafka的参数
val kafkaParams = Map[String, Object](
"bootstrap.servers" -> "192.168.72.128:9092,192.168.72.129:9092,192.168.72.130:9092",
"key.deserializer" -> classOf[StringDeserializer],
"value.deserializer" -> classOf[StringDeserializer],
"group.id" -> "SparkKafkaDemo",
//earliest:当各分区下有已提交的offset时,从提交的offset开始消费;无提交的offset时,从头开始消费
//latest:当各分区下有已提交的offset时,从提交的offset开始消费;无提交的offset时,消费新产生的该分区下的数据
//none:topic各分区都存在已提交的offset时,从offset后开始消费;只要有一个分区不存在已提交的offset,则抛出异常
//这里配置latest自动重置偏移量为最新的偏移量,即如果有偏移量从偏移量位置开始消费,没有偏移量从新来的数据开始消费
"auto.offset.reset" -> "latest",
//false表示关闭自动提交.由spark帮你提交到Checkpoint或程序员手动维护
"enable.auto.commit" -> (false: java.lang.Boolean)
)
val topics = Array("test")
//2.使用KafkaUtil连接Kafak获取数据
val recordDStream: InputDStream[ConsumerRecord[String, String]] = KafkaUtils.createDirectStream[String, String](ssc,
LocationStrategies.PreferConsistent,//位置策略,源码强烈推荐使用该策略,会让Spark的Executor和Kafka的Broker均匀对应
ConsumerStrategies.Subscribe[String, String](topics, kafkaParams))//消费策略,源码强烈推荐使用该策略
//3.操作数据
val lineDStream: DStream[String] = recordDStream.map(_.value())//_指的是ConsumerRecord
val wrodDStream: DStream[String] = lineDStream.flatMap(_.split(" ")) //_指的是发过来的value,即一行数据
val wordAndOneDStream: DStream[(String, Int)] = wrodDStream.map((_,1))
val result: DStream[(String, Int)] = wordAndOneDStream.reduceByKey(_+_)
result.print()
ssc.start()//开启
ssc.awaitTermination()//等待优雅停止
}
}