spark计算结果存入mysql_java版本如何将spark的处理结果存入mysql?

该博客展示了如何在Scala的Spark Streaming应用中,利用Java的MySQL驱动进行实时数据处理和存储。代码示例创建了一个每5秒处理一次数据的流处理作业,从指定socket接收文本数据,进行单词计数,然后将结果插入到MySQL数据库的wordcounts表中。整个过程包括数据清洗、转换、聚合和数据库交互,体现了Scala与Java库的无缝集成。
摘要由CSDN通过智能技术生成

这是使用Scala的,嵌入了Java的mysql的驱动。Java代码更好修改了。原理都是一样的

[mw_shl_code=scala,true]import java.sql.{PreparedStatement, Connection, DriverManager}

import java.util.concurrent.atomic.AtomicInteger

import org.apache.spark.SparkConf

import org.apache.spark.streaming.{Seconds, StreamingContext}

import org.apache.spark.streaming._

import org.apache.spark.streaming.StreamingContext._

//No need to call Class.forName("com.mysql.jdbc.Driver") to register Driver?

object SparkStreamingForPartition {

def main(args: Array[String]) {

val conf = new SparkConf().setAppName("NetCatWordCount")

conf.setMaster("local[3]")

val ssc = new StreamingContext(conf, Seconds(5))

val dstream = ssc.socketTextStream("hadoopMaster", 9999).flatMap(_.split(" ")).map(x => (x, 1)).reduceByKey(_ + _)

dstream.foreachRDD(rdd => {

//embedded function

def func(records: Iterator[(String,Int)]) {

//Connect the mysql

var conn: Connection = null

var stmt: PreparedStatement = null

try {

val url = "jdbc:mysql://hadoopMaster:3306/streaming";

val user = "root";

val password = "hadoop"

conn = DriverManager.getConnection(url, user, password)

records.foreach(word => {

val sql = "insert into wordcounts values (?,?)";

stmt = conn.prepareStatement(sql);

stmt.setString(1, word._1)

stmt.setInt(2, word._2)

stmt.executeUpdate();

})

} catch {

case e: Exception => e.printStackTrace()

} finally {

if (stmt != null) {

stmt.close()

}

if (conn != null) {

conn.close()

}

}

}

val repartitionedRDD = rdd.repartition(3)

repartitionedRDD.foreachPartition(func)

})

ssc.start()

ssc.awaitTermination()

}

}  [/mw_shl_code]

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值