Apache Spark 是大规模数据处理领域一个快速的常见的引擎,以下是Spark的一些特点:
速度:
在内存上运行程序相当于hadoop mapreduce处理的100倍,在磁盘上运行速度是hadoop的10倍
Spark提供一个高级的DAG处理引擎,可以支持循环数据流和内存计算。
容易使用:
Spark 提供了超过80总高级操作,使得它可以很容易的建立起平行的应用,而且你通过scala,python,R 脚本可以交互的使用它,如下所示,使用很少的数据即可实现单词计数的功能:
结合sql,流,和复杂的分析
Spark提供了一堆类库,包含sql和DataFrames,机器学习MLib,Graphx,和Spark Stream.你可以无缝的在同样的应用中结合这些库
到处运行:
Spark可以运行在Hadoop,Mesos,单机,或者是在云上。他可以进入不同的数据源,包括HDFS,Cassandra,和S3.
你可以在Hadoop Yarn,EC2,通过单机集群模式运行Spark,或者是Apache Mesos.进入HDFS,Cassandra,HBase,Hive,Tachyon,和任何的Hadoop数据源