spark案例:给定一组键值对("spark",2),("hadoop",6),("hadoop",4),("spark",6),键值对的key表示图书名称,value表示某天图书销量

该博客通过一个具体的Spark案例,展示了如何处理一组键值对数据,其中键表示图书名称,值表示图书销量。内容涉及使用Spark代码计算每种图书的每天平均销量,最终得出结果为:spark图书平均销量为4,hadoop图书平均销量为5。
摘要由CSDN通过智能技术生成

案例:给定一组键值对("spark",2),("hadoop",6),("hadoop",4),("spark",6),键值对的key
            表示图书名称,value表示某天图书销量,请计算每个键对应的平均值,也就是计算每种图书的每天平均销量。

 

spark代码:

import org.apache.spark.{SparkConf, SparkContext}

object tushu {
  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("paixu").setMaster("local")
    val sc = new SparkContext(conf)
    val book = Array(("spark",2),("hadoop",6),("hadoop",4),("spark",6))
    val rdd = sc.parallelize(book)
    val result = rdd.mapValues(x=>(x,1)).reduceByKey((x,y)=>(x._1+y._1,x._2+y._2)).
      mapValues(x=>(x._1/x._2)).collect().toList

    println(result)
  }
}

//解释:

//1.var

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值