spark运行自带例子_Spark运行命令示例

本文详细介绍了Spark在不同模式下的运行命令,包括local单机模式、standalone集群模式(client和cluster模式)以及Yarn集群模式(client和cluster模式)。通过具体的提交命令,展示了如何设置各项参数,如executor内存、核心数等。
摘要由CSDN通过智能技术生成

local单机模式:

结果xshell可见:

./bin/spark-submit --class org.apache.spark.examples.SparkPi --master local[1] ./lib/spark-examples-1.3.1-hadoop2.4.0.jar 100

standalone集群模式:

需要的配置项

1, slaves文件

2, spark-env.sh

export JAVA_HOME=/usr/soft/jdk1.7.0_71

export SPARK_MASTER_IP=spark001

export SPARK_MASTER_PORT=7077

export SPARK_WORKER_CORES=1

export SPARK_WORKER_INSTANCES=1

export SPARK_WORKER_MEMORY=1g

standalone集群模式:

之client模式:

结果xshell可见:

./bin/spark-submit --class org.apache.spark.examples.SparkPi --master spark://spark001:7077 --executor-memory 1G --total-executor-cores 1 ./lib/spark-examples-1.3.1-hadoop2.4.0.jar 100

standalone集群模式:

之cluster模式:

结果spark001:8080里面可见!

./bin/spark-submit --class org.apa

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值