SparkStreaming直连方式读取kafka数据,使用MySQL保存偏移量

本文介绍了如何使用SparkStreaming直接读取Kafka数据,并利用ScalikeJDBC库与MySQL交互,将Kafka的偏移量保存到数据库中,确保数据处理的可靠性。
摘要由CSDN通过智能技术生成

通过MySQL保存kafka的偏移量,完成直连方式读取数据
使用scalikeJDBC,访问数据库

1、什么是 ScalikeJDBC

ScalikeJDBC 是一款给 Scala 开发者使用的简洁 DB 访问类库,它是基于 SQL 的,使用者只需要关注 SQL 逻辑的编写,所有的数据库操作都交给 ScalikeJDBC。这个类库内置包含了JDBC API,并且给用户提供了简单易用并且非常灵活的 API。并且,QueryDSL(通用查询查询框架)使你的代码类型安全的并且可重复使用。我们可以在生产环境大胆地使用这款 DB 访问类库。
2、新建配置文件

//配置数据库信息
//使用IDEA,在resources文件夹下新建文件File文件名为application.conf
db.default.driver="com.mysql.jdbc.Driver"
db.default.url="jdbc:mysql://hadoop01:3306/kafkaOffset?characterEncodeing=utf-8"
db.default.user="root"
db.default.password="root"

在这里插入图片描述
3、在数据库中新建一张表Offset,表结构设计如图
在这里插入图片描述
4、导入依赖的jar包

<!--Maven依赖-->

<!--通过mysql保存偏移量-->

        <dependency>
            <groupId>com.typesafe</groupId>
            <artifactId>config</artifactId>
            <version>1.3.1</version>
        </dependency>
        <dependency>
            <groupId>org.scalikejdbc</groupId>
            <artifactId>scalikejdbc_2.11</artifactId>
            <version>2.5.0</version>
        </dependency>
        <dependency>
            <groupId>org.scalikejdbc</groupId>
            <artifactId>scalikejdbc-core_2.11</artifactId>
            <version>2.5.0</version>
        </dependency>
        <dependency>
            <groupId>org.scalikejdbc</groupId>
            <artifactId>scalikejdbc-config_2.11
  • 1
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
这个问题的意思是如何使用b'sparkstreaming\xe3\x80\x8a\xe4\xb8\x89\xe3\x80\x8b'来读取Kafka数据,并将增量存储在MySQL中。 首先需要使用Spark StreamingKafka Direct API来读取Kafka数据,然后将获得的数据转换为DataFrame或RDD。接下来将增量数据存储到MySQL中,可以使用Spark SQL或Dataframe APIs来实现。代码示例如下: ``` from pyspark.sql import SparkSession from pyspark.streaming import StreamingContext from pyspark.streaming.kafka import KafkaUtils from pyspark.sql.functions import * # 创建SparkSession spark = SparkSession.builder.appName("KafkaToMySQL").getOrCreate() # 创建StreamingContext ssc = StreamingContext(spark.sparkContext, batchDuration=5) # 设置Kafka参数 kafkaParams = {"bootstrap.servers": "localhost:9092", "group.id": "testGroup"} # 创建Kafka direct stream kafkaStream = KafkaUtils.createDirectStream(ssc, topics=["testTopic"], kafkaParams=kafkaParams) # 处理Kafka数据,并保存MySQL def processBatch(batchTime, rdd): if not rdd.isEmpty(): # 转换为DataFrame df = spark.read.json(rdd) # 将时间戳转换为日期 df = df.withColumn("date", from_unixtime(col("timestamp"), "yyyy-MM-dd")) # 计算增量 incremental_data = df.groupBy("date").agg(sum("value").alias("incremental_value")) # 将增量数据写入MySQL incremental_data.write.format("jdbc").option("url", "jdbc:mysql://localhost/test").option("dbtable", "incremental_data").option("user", "root").option("password", "root").mode("append").save() # 处理每个批次 kafkaStream.foreachRDD(processBatch) # 启动StreamingContext ssc.start() ssc.awaitTermination() ```
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值