spark 不同模式用途_Spark各运行模式详解

一、测试或实验性质的本地运行模式 (单机)

该模式被称为Local[N]模式，是用单机的多个线程来模拟Spark分布式计算，通常用来验证开发出来的应用程序逻辑上有没有问题。

其中N代表可以使用N个线程，每个线程拥有一个core。如果不指定N，则默认是1个线程(该线程有1个core)。

指令示例：

1)spark-shell --master local 效果是一样的

2)spark-shell --master local[4] 代表会有4个线程(每个线程一个core)来并发执行应用程序。

运行该模式非常简单，只需要把Spark的安装包解压后，改一些常用的配置即可使用，而不用启动Spark的Master、Worker守护进程( 只有集群的Standalone方式时，才需要这两个角色)，也不用启动Hadoop的各服务(除非你要用到HDFS)，这是和其他模式的区别，要记住才能理解。

二、测试或实验性质的本地伪集群运行模式(单机模拟集群)

这种运行模式，和Local[N]很像，不同的是，它会在单机启动多个进程来模拟集群下的分布式场景，而不像Local[N]这种多个线程只能在一个进程下委屈求全的共享资源。通常也是用来验证开发出来的应用程序逻辑上有没有问题，或者想使用Spark的计算框架而没有太多资源。

指令示例：

1)spark-shell --master local-cluster[2, 3, 1024]

用法是：提交应用程序时使用local-cluster[x,y,z]参数：x代表要生成的executor数，y和z分别代表每个executor所拥有的core和memory数。

上面这条命令代表会使用