Spark 中 map 与 flatMap 的区别

vi test.txt
this is 1st line
we have 2nd line too


val tf = sc.textFile("test.txt")
//操作1
var mapResult=tf.map(line=>line.split("\\s+"))
-- Array[Array[String]] = Array(Array(this,is,1st,line),Array(we,have,2nd,line,too))
//操作2
var mapResult=tf.flatMap(line=>line.split("\\s+"))
-- Array[String] = Array(this,is,1st,line,we,have,2nd,line,too)


总结:
- Spark 中 map函数会对每一条输入进行指定的操作,然后为每一条输入返回一个对象;
- 而flatMap函数则是两个操作的集合——正是“先映射后扁平化”:
   操作1:同map函数一样:对每一条输入进行指定的操作,然后为每一条输入返回一个对象
   操作2:最后将所有对象合并为一个对象
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值