请列举会引起 shuffle 过程的 spark 算子,并简述功能

  1. byKey类的操作:比如 reduceByKey、groupByKey、sortByKey 等;因为要对一个key,进行聚合操作,那么肯定要保证集群中,所有节点上的,相同的 key,一定是到同一个节点上进行处理
    a. reduceByKey :将数据按照相同的 key 对 value进行聚合
    b. groupByKey :将数据按照相同的 key 对 value进行分组
    c. aggregateByKey :将数据按照不同的规则进行分区内计算和分区间计算;
    d. foldByKey:当分区内计算规则和分区间计算规则相同时,aggregateByKey 就可以简化foldByKey
    e. combineByKey:当计算时,发现数据结构不满足要求时,可以让第一个数据转换结构分区内分区间计算规则不相同。
    f. sortByKey :在一个(K,V)的 RDD 上调用,K 必须实现 Ordered 接口,返回一个按照 Key 进行排序的 RDD;
  2. repartition类的操作:比如 repartition,coalesce等,重分区,一般会shuffle,因为需要在整个集群中,对之前所有分区的数据进行随机,均匀的打乱,然后把数据放入下游新的指定数据的分区内;
  3. join类的操作:比如 join 等,两个rdd进行 join,就必须将相同的 key 的数据,shuffle 到同一个节点上,然后进行相同 key 的两个 rdd 数据的笛卡尔乘积
    a. join :在类型为(K,V)和(K,W)的 RDD 上调用,返回一个相同 key 对应的所有元素连接在一起的 (K,(V,W))的 RDD;
  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值