隐式转换之reduceByKey

下面代码中,wordToOne是RDD类型,调用了reduceByKey方法,但是reduceByKey是PairRDD类型的方法,那不属于一个类型,为什么可以调用呢? 或者说RDD类中不存在reduceByKey方法

原因是RDD类中有隐式转换,将RDD通过隐式转换是的可以使用PairRDD的方法

package com.aiyunxiao.test01

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object test {
    def main(args: Array[String]): Unit = {
        //TODO 创建spark配置对象
        val conf: SparkConf = new SparkConf().setAppName("wordcount").setMaster("local[*]")

        // TODO 创建spark环境连接对象
        val sc = new SparkContext(conf)

        //TODO 从classpath中查找文件(配置文件,XML文件)
        // 当前环境的类加载器中,去获取资源来作为流来使用
        // Thread.currentThread().getContextClassLoader.getResourceAsStream()

        // TODO 从项目环境中获取
        val line: RDD[String] = sc.textFile("input")

        val word: RDD[String] = line.flatMap(line=>line.split(" "))

        val wordToOne: RDD[(String, Int)] = word.map(word=>(word,1))

        val wordToCount: RDD[(String, Int)] = wordToOne.reduceByKey((x,y)=>(x+y))

        val result: Array[(String, Int)] = wordToCount.collect()

        result.foreach(println)

        sc.stop()

    }

}

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值