spark-textFile与wholeTextFiles的区别

package com.atguigu.bigdata.spark.core.rdd.builder

import org.apache.spark.{SparkConf, SparkContext}

object Spark02_RDD_File02 {
  def main(args: Array[String]): Unit = {
    // TODO 准备环境
    // local[*] *表示当前系统最大可用核数 如果直接写local表示多线程模拟单核
    val sparkConf = new SparkConf().setMaster("local[*]").setAppName("RDD")
    val sc = new SparkContext(sparkConf)

    // TODO 创建RDD
    // 从文件中创建RDD,将文件中的数据作为处理的数据源

    // textFile:以行为单位来读取数据,不考虑数据来源于哪一个地方,读取的都是字符串
    // wholeTextFiles:以文件为单位读取数据,读取的结果表示为元组,第一个元素就是文件路径,第二个表示文件内容
    val rdd = sc.wholeTextFiles("datas")


    rdd.collect().foreach(println)


    // 关闭环境
    sc.stop()
  }
}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值