Spark根据key,按照一定条件对数据去重

1、原始数据

09308831030|930|2012.01.20 21:35:28|0c:56:5c:1e:b8:45|100004475|2|2
09308831030|930|2012.01.20 21:35:28|10:77:b0:9a:61:f6|100004471|3|1
09308831030|930|2012.01.20 21:35:28|00:07:63:1e:b8:45|100004476|1|3
09305410209|930|2014.08.07 15:10:24|FC:B0:C4:BB:98:4A|100004471|1|1

2、要求

按照第一个字段对数据去重,若数据重复,则按照最后两个字段保留最大值,并且第四和第五个字段根据第六和第七字段取相应的值(比如以上数据中第二条数据的第六个字段为3,是最大的一个,则第五个字段就去第二条数据中的第五个字段。第三条数据的第七个字段为3,是最大的一个,则第四个字段就去第三条数据中的第四个字段)。

预期输出结果为:
09308831030|930|2012-01-20 21:35:28|10:77:b0:9a:61:f6|100004476|3|3
09305410209|930|2014-08-07 15:10:24|FC:B0:C4:BB:98:4A|100004471|1|1

3.使用groupByKey实现

val step1= inputRdd.map(log => {
  val valueItems = log.split(Utils.SplitValue, -1)
  var userId = valueItems(0)
  var stbId = valueItems(3)
  var productCode = valueItems(4)
  var createDate = valueItems(2)
  var areaCode = valueItems(1)
  var userType=valueItems(5)
  var stbType=valueItems(6)        
    Some(userId, createDate, stbId, areaCode, productCode,userType,stbType)    
}).filter(item => item.isDefined).map(item => item.get)

val step2 = step1.map(item=>{
        val userId = item._1
        val createDate = item._2
        val stbId = item._3
        val areaCode = item._4
        val productCode = item._5
        val userType=item._6
        val  stbType=item._7
        (userId,(createDate,stbId,areaCode,productCode,userType,stbType))
    }).groupByKey.map(item=> {      
               var userId=item._1
               val value=item._2 .toArray                  
               var createDate =value(0)._1
               var stbId =value(0)._2
               var areaCode =value(0)._3
               var productCode = value(0)._4
               var userType=value(0)._5
               var  stbType=value(0)._6
                 for(elem <-value){
                     if (elem._6 > stbType) {
                            stbId=elem._2
                        stbType=elem._6
                     }
                     if (elem._5>userType) {
                       productCode=elem._4
                       userType=elem._5
                     }
                 }         
              (userId,createDate,stbId,areaCode,productCode,userType,stbType)
    })    

val step3 = step2.map(item => {
      val userId = item._1
      val createDate = item._2
      val stbId = item._3
      val areaCode = item._4
      val productCode = item._5
      val userType=item._6
      val  stbType=item._7
      s"${userId}
      |${createDate}|${stbId}|${areaCode}|${productCode}|${userType}|${stbType}"
    }).repartition(1).saveAsTextFile(output)    

4、输出结果

itv09308831030|2012-01-20 21:35:28|10:77:b0:9a:61:f6|930|100004476|3|3
itv09305410209|2014-08-07 15:10:24|FC:B0:C4:BB:98:4A|930|100004471|1|1  

5、若value中都是int类型的值,则可以用reduceByKey实现以上要求

若预期输出结果为:
itv09308831030|3|3
itv09305410209|1|1  
则可用reduceByKey实现,具体代码如下:

val step2 = step1.map(item=>{
    val userId = item._1
    val userType=item._7
    val  stbType=item._8
    (userId,(userType,stbType))
}).reduceByKey((x,y)=>{

          var userType=0
          var stbType=0
          if(x._1>y._1) userType=x._1    else  userType=y._1
          if(x._2>y._2) stbType=x._1    else  stbType=y._1
          (userType,stbType)
}).map(item=>{
    val userId=item._1
    val userType=item._2._1
    val stbType=item._2._2
     (userId,userType,stbType)
})         
  val step3 = step2.map(item => {
      val userId = item._1
      val userType = item._2
      val stbType = item._3
      s"${userId}|${userType}|${stbType}"
}).repartition(1).saveAsTextFile(output)      
  • 1
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 5
    评论
Spark DataFrame中进行去重操作,可以使用以下方法来提高效率: 1. 使用dropDuplicates()函数:dropDuplicates()函数可以去除DataFrame中的重复行,并返回一个新的DataFrame。该函数默认会根据所有列进行去重,也可以通过传递列名列表来指定特定列进行去重。例如,df.dropDuplicates(['col1', 'col2']) 可以根据col1和col2列进行去重。 2. 使用cache()函数:如果数据集比较大,我们可以先使用cache()函数将DataFrame缓存到内存中,以加快后续的去重操作。例如,df.cache().dropDuplicates() 可以先将数据缓存到内存中,然后再执行去重操作。 3. 使用repartition()函数:如果DataFrame的分区数量比较少,我们可以使用repartition()函数来增加分区数量,以提高并行度和执行效率。例如,df.repartition(100).dropDuplicates() 可以将DataFrame分为100个分区,以提高并行度和执行效率。 4. 使用approximateDistinct()函数:如果DataFrame中的列值比较多,我们可以使用approximateDistinct()函数来估算列值的近似唯一值数量,以加快去重操作。例如,df.select(approximateDistinct('col1')).show() 可以估算col1列的唯一值数量。 5. 使用Hash函数去重:如果DataFrame中的行数很多,我们可以使用Hash函数进行去重。Hash函数可以将每一行数据映射到一个唯一的Hash值,然后根据Hash值进行去重。例如,df.rdd.map(lambda x: (hash(str(x)), x)).reduceByKey(lambda x, y: x).map(lambda x: x[1]).toDF() 可以使用Hash函数进行去重

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

泪痕残

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值