【Scala】使用Scala程序实现WordCount--词频统计(代码)

这个代码实现的统计单词出现的次数:

object WordCount {
  def main(args: Array[String]): Unit = {
    val lines = List("hadoop hive spark scala","spark hive habase",
      "hive spark java")
    //数据转换
    val mappedWords = lines.flatMap(_.split(" ").map(_.trim)).filterNot(_
      .isEmpty).map((_,1))
    println("---------------输出分割后的值-----------------")
    println(mappedWords)
    //根据数据进行分组
    val groupedWords: Map[String, List[(String, Int)]] = mappedWords.groupBy(tuple=>tuple._1)
    //每组进行数据计算
    println("---------------输出分组后的值-----------------")
    println(groupedWords)

    val result = groupedWords.map(tuple=>{
      //获得Word单词(key)
      val word = tuple._1
      //计算该Word对应的数量(value)
      val count = tuple._2.map(t=>t._2).sum
      //返回结果
      (word,count)
    })
    println("---------------输出合并后的值-----------------")
    println(result)
    println("---------------转换成list的值-----------------")
    println(result.toList)
  }
}

 

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值