Spark到底比MapReduce快在哪？

转载：spark为什么比hadoop的mr要快？

为什么转这篇文章，是看到一个问题：为什么spark不在内存跑，也可以比mr快，对于刚入门的新手来说，或者大家比较熟知的，都知道spark是基于内存计算的，但是怎么会有这样的问题出现呢？因此有了以下的search，供大家参考。

----------------------分割线----------------------------

1.前言

Spark是基于内存的计算，而Hadoop是基于磁盘的计算；Spark是一种内存计算技术。

但是事实上，不光Spark是内存计算，Hadoop其实也是内存计算。

Spark和Hadoop的根本差异是多个任务之间的数据通信问题：Spark多个任务之间数据通信是基于内存，而Hadoop是基于磁盘。

Spark SQL比Hadoop Hive快，是有一定条件的，而且不是Spark SQL的引擎一定比Hive的引擎快，相反，Hive的HQL引擎还比Spark SQL的引擎更快。

2.内存计算技术

内存计算技术是指将数据持久化至内存RAM中进行加工处理的技术。Spark并不支持将数据持久化至内存中，我们通常所说的是spark的数据缓存技术，如将RDD数据缓存至内存，但并没有实现持久化。缓存数据是可以擦除的，擦除后同样是需要我们重新计算的。Spark的数据处理是在内存中进行的，这话并没有错，其实当前的所有操作系统的数据处理都是在内存中进行的。所以，这内存计算并不是Spark的特性。

Spark是允许我们利用缓存技术和LRU算法缓存数据的。Spark的所有运算并不是全部都在内存中，当shuffle发生的时候，数据同样是需要写入磁盘的。所以，Spark并不是基于内存的技术，而是使用了缓存机制的技术。

3. 那Spark主要快在哪里呢？

Spark最引以为豪的就是官网介绍的经典案例。这个案例是逻辑回归机器学习算法，该算法主要特征是对同一份数据的反复迭代运算。Spark是内存缓存，所以数据只加载一次，Hadoop则需要反复加载。实际情况下，Spark通常比Hadoop快十倍以内是合理的。主要快在哪里呢？

其实，关键还是在于Spark 本身快。

Spark比Hadoop快的主要原因有：

1.消除了冗余的HDFS读写
Hadoop每次shuffle操作后，必须写到磁盘，而Spark在shuffle后不一定落盘，可以cache到内存中，以便迭代时使用。如果操作复杂，很多的shufle操作，那么Hadoop的读写IO时间会大大增加。

2.消除了冗余的MapReduce阶段
Hadoop的shuffle操作一定连着完整的MapReduce操作，冗余繁琐。而Spark基于RDD提供了丰富的算子操作，且reduce操作产生shuffle数据，可以缓存在内存中。

3.JVM的优化
Spark Task的启动时间快。Spark采用fork线程的方式，Spark每次MapReduce操作是基于线程的，只在启动。而Hadoop采用创建新的进程的方式，启动一个Task便会启动一次JVM。

Spark的Executor是启动一次JVM，内存的Task操作是在线程池内线程复用的。

每次启动JVM的时间可能就需要几秒甚至十几秒，那么当Task多了，这个时间Hadoop不知道比Spark慢了多少。