用Scala实现算子

class MyOperation(arr: Array[Int]) {

  def foreach(f: (Int) => Unit): Unit = {
    for (num <- arr) {
      f(num)
    }
  }

  def filter(f: (Int) => Boolean): Array[Int] = {
    var res = Array[Int]()
    for (num <- arr if f(num)) yield num
  }

  def map(f: (Int) => (Int)): Array[Int] = {
    for (elem <- arr) yield f(elem)
  }

  def reduce(f: (Int, Int) => (Int)): Int = {
    var res = arr(0)
    for (idx <- 1 until arr.length) {
      res = f(res, arr(idx))
    }
    res
  }
}

object MyOperation {
  def apply(arr: Array[Int]): MyOperation = new MyOperation(arr)
}

// 测试
object Test {
  def main(args: Array[String]): Unit = {
    val arr: Array[Int] = Array[Int](1, 2, 3, 4, 5)
    val myOperation: MyOperation = MyOperation(arr)

    // test foreach
    myOperation.foreach(println)

    print("\n----------------------\n")
    // test filter
    val arr2 = myOperation.filter(x => x % 2 == 0)
    println(arr2.mkString(", "))

    print("\n----------------------\n")


    // test map
    val arr3 = myOperation.map(2 * _)
    println(arr3.mkString(", "))

    print("\n----------------------\n")

    // test reduce
    val num1 = myOperation.reduce(_ + _)
    val num2 = myOperation.reduce(_ * _)
    println(s"num1:$num1, nums2:$num2")
  }
}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Spark Scala中的join算子是一种数据转换函数,用于将两个数据集合并成一个新的数据集。在Spark中,join操作可以通过不同的方式进行,包括内连接、左连接、右连接和外连接。 内连接(inner join)是指将两个数据集合并为一个新的数据集,其中只保留两个数据集中都包含的元素。这种连接方式通常用于需要匹配两个数据集中的关键字或条件时。 左连接(left join)是指将两个数据集合并为一个新的数据集,其中保留左侧数据集中所有的元素,同时将右侧数据集中与左侧数据集匹配的元素合并到新数据集中。如果右侧数据集中没有与左侧数据集匹配的元素,则在新数据集中使用null填充。 右连接(right join)是指将两个数据集合并为一个新的数据集,其中保留右侧数据集中所有的元素,同时将左侧数据集中与右侧数据集匹配的元素合并到新数据集中。如果左侧数据集中没有与右侧数据集匹配的元素,则在新数据集中使用null填充。 外连接(outer join)是指将两个数据集合并为一个新的数据集,其中保留左侧和右侧数据集中所有的元素,同时将左侧和右侧数据集中匹配的元素合并到新数据集中。如果左侧或右侧数据集中没有与另一个数据集匹配的元素,则在新数据集中使用null填充。 在Spark Scala中,join算子通常通过调用DataFrame或Dataset API中的join函数来实现。具体实现方式取决于使用的连接方式和数据集类型。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值