关闭

Scala中List的ListBuffer实现高效的遍历计算

447人阅读 评论(0) 收藏 举报
分类:

分类: scala 2015-08-16 10:49 309人阅读 评论(0) 收藏 举报
scalasparkListBuffer

目录(?)[+]

我们通过对比下列4组程序,对比,发现优缺点
第一组: 递归

代码

 def main(args: Array[String]) {

    val data = 1 to 20000

    val currntTime =System.currentTimeMillis()
    increase(data.toList)
    println("used time=" + (System.currentTimeMillis() - currntTime))

  }

  def increase(list:List[Int]):List[Int] = list match {
       case List() => List()
       case head2 :: tail => (head2 + 1) :: increase(tail)
  }

 
运行结果:

    Exception in thread “main” java.lang.StackOverflowError
    at scala.collection.LinearSeqOptimizedclass.lengthCompare(LinearSeqOptimized.scala:261)atscala.collection.immutable.List.lengthCompare(List.scala:84)atcom.ifly.edu.scala.list.ListBufferInternals.increase(ListBuffer_Internals.scala:19)
    at com.ifly.edu.scala.list.ListBuffer_Internals.increase(ListBufferInternals.scala:20)atcom.ifly.edu.scala.list.ListBufferInternals.increase(ListBuffer_Internals.scala:20)
    at com.ifly.edu.scala.list.ListBuffer_Internals.increase(ListBufferInternals.scala:20)atcom.ifly.edu.scala.list.ListBufferInternals.increase(ListBuffer_Internals.scala:20)
    at

优点: 简单
缺点: 当数据过大时,不停创建堆栈,内存消耗大

第二组: 循环
代码:

  def main(args: Array[String]) {
    val data = 1 to 20000
    val currntTime =System.currentTimeMillis()
    increase_for(data.toList)
    println("used time=" + (System.currentTimeMillis() - currntTime))

  }
  //循环
  def increase_for(list:List[Int]) :List[Int] = {
    var result = List[Int]()
    for(element <- list){
      result = result::: List(element)
    }
    result
  }


运行结果
数据大小为20000

    used time=2611
    Process finished with exit code 0

数据大小为2000000

    used time= NIL (运行很长时间,没有结果),难以忍受
    Process finished with exit code 0

优点: 规避递归,数据多少不受什么影响
缺点: 产生很多临时List结果,当数据过大时,效率降低严重

第三组: For 循环 结合map处理
代码

  //list 的map function
  def increase_for2(list:List[Int]) :List[Int] ={
    println("list map ")
    list map(el => el +1)
  }

    1
    2
    3
    4
    5

运行结果
数据大小:2000000

    list map
    used time=2268
    Process finished with exit code 0

数据大小:2000000

    used time=2268
    Process finished with exit code 0数据大小:2000000

数据大小:2000000

    used time=48356

Process finished with exit code 0

优点: 不产生中间结果,比使用List的::: 方法快
缺点:
第四组: 使用ListBuffer

代码:


  def main(args: Array[String]) {
    val data = 1 to 2000000
    val currntTime =System.currentTimeMillis()
    increase_ListBuffer(data.toList)
    println("used time=" + (System.currentTimeMillis() - currntTime))

  }

  //listBuffer
  def increase_ListBuffer(list:List[Int]) :List[Int]={
    import scala.collection.mutable.ListBuffer
    var result = ListBuffer[Int]()
    for(element <- list){
      result += element+1
    }
    result.toList
  }

 

运行结果
数据大小为2000000

    used time=2284
    Process finished with exit code 0

数据大小为20000000

    Exception in thread “main” java.lang.OutOfMemoryError: GC overhead limit exceeded
    at scala.collection.mutable.ListBuffer.pluseq(ListBuffer.scala:168)
    at scala.collection.mutable.ListBuffer.pluseq(ListBuffer.scala:45)
    at scala.collection.generic.Growable
    anonfun
    pluspluseq1.apply(Growable.scala:48)atscala.collection.generic.Growableanonfunpluspluseq1.apply(Growable.scala:48)
    at scala.collection.immutable.Range.foreach(Range.scala:141)
    at scala.collection.generic.Growableclass.pluspluseq(Growable.scala:48)
    at scala.collection.mutable.ListBuffer.pluspluseq(ListBuffer.scala:176)atscala.collection.mutable.ListBuffer.pluspluseq(ListBuffer.scala:45)
    at scala.collection.TraversableLikeclass.to(TraversableLike.scala:629)atscala.collection.AbstractTraversable.to(Traversable.scala:105)atscala.collection.TraversableOnceclass.toList(TraversableOnce.scala:257)
    at scala.collection.AbstractTraversable.toList(Traversable.scala:105)
    at com.ifly.edu.scala.list.ListBuffer_Internals$.main(ListBuffer_Internals.scala:11)
    at com.ifly.edu.scala.list.ListBuffer_Internals.main(ListBuffer_Internals.scala)

优点: 数据在一定量的情况,效率非常高
缺点:
小结

ListBuffer 既可以规避递归,也可以 规避 创建中间结果,效率可靠
0
0

猜你在找
【直播】机器学习&数据挖掘7周实训--韦玮
【套餐】系统集成项目管理工程师顺利通关--徐朋
【直播】3小时掌握Docker最佳实战-徐西宁
【套餐】机器学习系列套餐(算法+实战)--唐宇迪
【直播】计算机视觉原理及实战--屈教授
【套餐】微信订阅号+服务号Java版 v2.0--翟东平
【直播】机器学习之矩阵--黄博士
【套餐】微信订阅号+服务号Java版 v2.0--翟东平
【直播】机器学习之凸优化--马博士
【套餐】Javascript 设计模式实战--曾亮
查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:84076次
    • 积分:1353
    • 等级:
    • 排名:千里之外
    • 原创:31篇
    • 转载:152篇
    • 译文:0篇
    • 评论:4条
    文章分类
    最新评论