Spark学习_4(spark的启动方式解析)

引言:

通过Spark-shell的交互式编程,有利于在spark学习的初级阶段练习和掌握基本的API,由于spark框架采用的scala语言就行开发的,所以使用spark-shell命令也会默认进入到scala的交互式执行环境中。

spark启动命令

在配置好了的系统中运行Spark-shell。就可以进入到交互式执行环境中。命令和参数如下:
./bin/spark-shell --master master-url
其中master-url表示spark的运行模式

master-url含义
local使用一个work线程在本地运行spark
spark://host:portspark采用standalone集群模式,默认端口7077
yarn-clientspark采用yarn集群模式,以客户端模式连接到spark集群,集群的位置可以在./conf/spark-env.sh中HADOOP_CONF_DIR环境变量中找到,当用户提交作业之后,不能关掉client,drive program驻留在client中,负责调度作业的执行。该模式适合运行交互类型的作业,常用于开发阶段
yarn-cluster集群的位置可以在./conf/spark-env.sh中HADOOP_CONF_DIR环境变量中找到,当用户提交作业之后,就可以关闭client了,作业会继续在yarn上运行。该模式不适合运行交互类型的作业,常用于企业生成环境
mesosspark采用mesos集群模式,默认端口5050

例如:进入到local本地运行模式:
spark-shell
进入到yarn集群client模式:
spark-shell --master yarn-client
推出
:quit

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值