Spark--Scala Actor统计多文件WordCount

import scala.actors.{Future, Actor}
import scala.collection.mutable
import scala.collection.mutable.ArrayBuffer
import scala.io.Source

/**
 * Created by Administrator on 2017/7/30.
 */
class MyTask extends Actor{
  def act(): Unit ={
    loop{
      react{
        case SubmitTask(fileName) =>{
          val result = Source.fromFile(fileName).getLines().flatMap(_.split(" ")).map((_,1)).toList.groupBy(_._1).mapValues(_.size)
          sender ! ResultTask(result)
        }
        case StopTask =>{
          exit()
        }
      }
    }
  }
}
case class SubmitTask(fileName:String)
case class ResultTask(result:Map[String,Int])
case object StopTask

object ActorWordCount extends App{

  val replySet = new mutable.HashSet[Future[Any]]()
  val resultList = new ArrayBuffer[ResultTask]()

  val files = Array[String]("E:\\hadoopSoftWare\\data\\wordCnt.txt","E:\\hadoopSoftWare\\data\\wordCount.txt")
  for(file <- files){
    val task = new MyTask
    val reply = task.start()!!SubmitTask(file)
    replySet += reply

  }
  while(replySet.size>0){
    val toCompute = replySet.filter(_.isSet)
    for(r <- toCompute){
      val result = r.apply().asInstanceOf[ResultTask] //r.apply或者r()取出返回值Future中所谓any的值
      resultList += result

      replySet -= r
    }

  }
  val value = resultList.toList.flatMap(_.result).groupBy(_._1).mapValues(_.foldLeft(0)(_+_._2));
  println(value)
}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值