Spark-core:执行Spark任务的两个工具:spark-submit与spark-shell

1.spark-submit:用于提交Spark任务
(1)举例:spark 自带的实例程序。

/opt/module/spark-2.1.0-bin-hadoop2.7/examples/jars中有Spark自带的实例程序。

蒙特卡洛求PI(圆周率)

cd /opt/module/spark-2.1.0-bin-hadoop2.7

bin/spark-submit --master spark://hadoop1:7077 --class org.apache.spark.examples.SparkPi /opt/module/spark-2.1.0-bin-hadoop2.7/examples/jars/spark-examples_2.11-2.1.0.jar 500

启动命令
执行结果

2.Spark-shell
(1)概念:相当于REPL工具,命令行工具,作为一个独立的Application运行
(2)两种运行模式:
(a)本地模式:不需要连接到Spark集群,在本地直接运行,用于测试

启动:

//后面不写任何参数,代表本地模式
bin/spark-shell  

本地模式
local代表本地模式

(b)集群模式

命令:

bin/spark-shell --master spark://hadoop1:7077

集群模式

特殊说明:

  • Spark session(spark) : Spark2.0以后提供的,利用session可以访问所有spark组件(core sql…)
  • spark context(sc) 两个对象,可以直接使用
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值