Spark-Streaming>整合kafka

1. Kafka快速回顾

核心概念图解

• Broker ： 安装Kafka服务的机器就是一个broker
• Producer ：消息的生产者，负责将数据写入到broker中(push)
• Consumer：消息的消费者，负责从kafka中拉取数据(pull)，老版本的消费者需要依赖zk，新版本的不需要
• Topic: 主题，相当于是数据的一个分类，不同topic存放不同业务的数据 –主题:区分业务
• Replication:副本，数据保存多少份(保证数据不丢失) –副本:数据安全
• Partition:分区，是一个物理的分区,一个分区就是一个文件,一个Topic可以有1~n个分区,每个分区都有自己的副本 –分区:并发读写
• Consumer Group：消费者组，一个topic可以有多个消费者/组同时消费，多个消费者如果在一个消费者组中，那么他们不能重复消费数据 –消费者组:提高消费者消费速度、方便统一管理

注意：

• 一个Topic可以被多个消费者或者组订阅，一个消费者/组也可以订阅多个主题
• 读数据只能从Leader读， 写数据也只能往Leader写，Follower会从Leader那里同步数据过来做副本！！！

常用命令

#启动kafka
/export/servers/kafka/bin/kafka-server-start.sh -daemon /export/servers/kafka/config/server.properties 

#停止kafka
/export/servers/kafka/bin/kafka-server-stop.sh 

#查看topic信息
/export/servers/kafka/bin/kafka-topics.sh --list --zookeeper node01:2181
 
#创建topic
/export/servers/kafka/bin/kafka-topics.sh --create --zookeeper node01:2181 --replication-factor 3 --partitions 3 --topic test
 
#查看某个topic信息
/export/servers/kafka/bin/kafka-topics.sh --describe --zookeeper node01:2181 --topic test
 
#删除topic
/export/servers/kafka/bin/kafka-topics.sh --zookeeper node01:2181 --delete --topic test
 
#启动生产者--控制台的生产者一般用于测试
/export/servers/kafka/bin/kafka-console-producer.sh --broker-list node01:9092 --topic spark_kafka
 
#启动消费者--控制台的消费者一般用于测试
/export/servers/kafka/bin/kafka-console-consumer.sh --zookeeper node01:2181 --topic spark_kafka--from-beginning
 
# 消费者连接到borker的地址
/export/servers/kafka/bin/kafka-console-consumer.sh --bootstrap-server node01:9092,node02:9092,node03:9092 --topic spark_kafka --from-beginning

2.整合Kafka两种模式说明

★面试题：Receiver & Direct
开发中我们经常会利用SparkStreaming实时地读取kafka中的数据然后进行处理，在spark1.3版本后，kafkaUtils里面提供了两种创建DStream的方法:

• 1.Receiver接收方式：
  KafkaUtils.createDstream(开发中不用，了解即可，但是面试可能会问)
  Receiver作为常驻的Task运行在Executor等待数据，但是一个Receiver效率低，需要开启多个，再手动合并数据(union)，再进行处理，很麻烦
  Receiver哪台机器挂了，可能会丢失数据，所以需要开启WAL(预写日志)保证数据安全，那么效率又会降低!
  Receiver方式是通过zookeeper来连接kafka队列，调用Kafka高阶API，offset存储在zookeeper，由Receiver维护，
  spark在消费的时候为了保证数据不丢也会在Checkpoint中存一份offset，可能会出现数据不一致
  所以不管从何种角度来说，Receiver模式都不适合在开发中使用了,已经淘汰了
• 2.Direct直连方式：
  KafkaUtils.createDirectStream(开发中使用，要求掌握)
  Direct方式是直接连接kafka分区来获取数据，从每个分区直接读取数据大大提高了并行能力
  Direct方式调用Kafka低阶API(底层API)，offset自己存储和维护，默认由Spark维护在checkpoint中，消除了与zk不一致的情况
  当然也可以自己手动维护，把offset存在mysql、redis中
  所以基于Direct模式可以在开发中使用，且借助Direct模式的特点+手动操作可以保证数据的Exactly once 精准一次

总结：

• Receiver接收方式
  1、多个Receiver接受数据效率高，但有丢失数据的风险。
  2、开启日志（WAL）可防止数据丢失，但写两遍数据效率低。
  3、Zookeeper维护offset有重复消费数据可能。
  4、使用高层次的API
• Direct直连方式
  1、不使用Receiver，直接到kafka分区中读取数据
  2、不使用日志（WAL）机制。
  3、Spark自己维护offset
  4、使用低层次的API

扩展：关于消息语义

实现方式	消息语义	存在的问题
Receiver	at most once最多被处理一次	会丢失数据
Receiver+WAL	at least once最少被处理一次	不会丢失数据，但可能会重复消费，且效率低
Direct+手动操作	exactly once只被处理一次/精准一次	不会丢失数据，也不会重复消费，且效率高

注意:
开发中SparkStreaming和kafka集成有两个版本：0.8及0.10+
0.8版本有Receiver和Direct模式(但是0.8版本生产环境问题较多，在Spark2.3之后不支持0.8版本了)
0.10以后只保留了direct模式(Reveiver模式不适合生产环境)，并且0.10版本API有变化(更加强大)

结论：
我们学习和开发都直接使用0.10版本中的direct模式
但是关于Receiver和Direct的区别面试的时候要能够答得上来

3.spark-streaming-kafka-0-8(了解)

3.1.Receiver

KafkaUtils.createDstream使用了receivers来接收数据，利用的是Kafka高层次的消费者api，偏移量由Receiver维护在zk中，对于所有的receivers接收到的数据将会保存在Spark executors中，然后通过Spark Streaming启动job来处理这些数据，默认会丢失，可启用WAL日志，它同步将接受到数据保存到分布式文件系统上比如HDFS。保证数据在出错的情况下可以恢复出来。尽管这种方式配合着WAL机制可以保证数据零丢失的高可靠性，但是启用了WAL效率会较低，且无法保证数据被处理一次且仅一次，可能会处理两次。因为Spark和ZooKeeper之间可能是不同步的。
官方现在已经不推荐这种整合方式

• 准备工作
  1.启动zookeeper集群
  zkServer.sh start
  2.启动kafka集群
  kafka-server-start.sh /export/servers/kafka/config/server.properties
  3.创建topic
  kafka-topics.sh --create --zookeeper node01:2181 --replication-factor 1 --partitions 3 --topic spark_kafka
  4.通过shell命令向topic发送消息
  kafka-console-producer.sh --broker-list node01:9092 --topic spark_kafka
  hadoop spark sqoop hadoop spark hive hadoop
  5.添加kafka的pom依赖

<dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-streaming-kafka-0-8_2.11</artifactId>
    <version>2.2.0</version>
</dependency>

• API
  通过receiver接收器获取kafka中topic数据，可以并行运行更多的接收器读取kafak topic中的数据，这里为3个

 val receiverDStream: immutable.IndexedSeq[ReceiverInputDStream[(String, String)]] = (1 to 3).map(x => {
   
      val stream: ReceiverInputDStream[(String, String)] = KafkaUtils.createStream(ssc, zkQuorum, groupId, topics)
      stream
    })

如果启用了WAL(spark.streaming.receiver.writeAheadLog.enable=true)可以设置存储级别(默认StorageLevel.MEMORY_AND_DISK_SER_2)

代码演示

package cn.itcast.streaming

import org.apache.spark.streaming.dstream.{
   DStream, ReceiverInputDStream}
import org.apache.spark.streaming.kafka.KafkaUtils
import org.apache.spark.streaming.{
   Seconds, StreamingContext}
import org.apache.spark.{
   SparkConf, SparkContext}

import scala.collection.immutable

object SparkKafka {
   
  def main(args: Array[String]): Unit = {
   
    //1.创建StreamingContext
    val config: SparkConf = 
new SparkConf().setAppName("SparkStream").setMaster("local[*]")
      .set("spark.streaming.receiver.writeAheadLog.enable", "true")
//开启WAL预写日志，保证数据源端可靠性
    val sc = new SparkContext(config)
    sc.setLogLevel("WARN")
    val ssc = new StreamingContext(sc,Seconds(5))
    ssc.checkpoint("./kafka")
//==============================================
    //2.准备配置参数
    val zkQuorum = "node01:2181,node02:2181,node03:2181"
    val groupId = "spark"
    val topics = Map("spark_kafka" -> 2)//2表示每一个topic对应分区都采用2个线程去消费,
//ssc的rdd分区和kafka的topic分区不一样，增加消费线程数，并不增加spark的并行处理数据数量
    //3.通过receiver接收器获取kafka中topic数据，可以并行运行更多的接收器读取kafak topic中的数据，这里为3个
    val receiverDStream: immutable.IndexedSeq[ReceiverInputDStream[(String, String)]] = (1 to 3).map