Spark单机版配置(Ubuntu)

1.安装好JDK,SCALA后(注意版本兼容问题),下载兼容的Spark
2.解压缩spark-2.1.0-bin-hadoop2.7.tgz,移动到自己想要放的地方(例如/opt)
3.配置环境变量:

sudo gedit /etc/profile
export SPARK_HOME=/opt/spark-2.1.0-bin-hadoop2.7.tgz
   export PATH=$SPARK_HOME/bin:$PATH
source /etc/profile

4.进入conf文件夹:cd /opt/spark-2.1.0-bin-hadoop2.7.tgz/conf
复制一份spark-env.sh.template,命名为spark-env.sh

cp spark-env.sh.template spark-env.sh

添加两行配置:

export SPARK_MASTER_IP=127.0.0.1
   export SPARK_LOCAL_IP=127.0.0.1

5.进入bin目录并运行spark-shell,成功:

cd /opt/spark-2.1.0-bin-hadoop2.7.tgz/bin
./spark-shell

测试:
WordCount:

val counts = sc.textFile("../README.md").flatMap(line => line.split(" ")).
			 map(word => (word, 1)).reduceByKey(_+_).foreach(println)

成功

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值