MyUtil:保存数据到redis

import org.apache.spark.rdd.RDD
import org.apache.spark.streaming.kafka010.OffsetRange
import redis.Jpools

object DataToRedis {
  //保存数据到redis
  def saveDataOffset(result1: RDD[((String,String,String), Int)],ranges: Array[OffsetRange],groupid:String)={
    result1.foreachPartition(filter=>{
      //获取redis链接
      val jedis = Jpools.getJedis
      //开启一个事物
      val transaction = jedis.multi()
      //开始添加数据
      filter.foreach(tp=>{
        try{
          //存储数据
          transaction.hincrBy("operator",tp._1._1+":"+tp._1._2+":"+tp._1._3,tp._2)
          //存储偏移量
          for(o <- ranges){
            transaction.hset(groupid,o.topic+":"+o.partition,o.untilOffset.toString)
          }
        }catch {
          case _ => println("报错了,需要回滚")
            //需要回滚
            transaction.discard()
        }
      })
      //事物对象去提交  不管失败与成功,都需要报告结果(提交结果)
      //跳出循环,总的提交
      transaction.exec()
      //关闭redis链接
      jedis.close()
    })
  }

}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值