直升机坠机了,今天来教大家有点小难度的spark和scala的安装部署

一:首先下载Scala和spark的安装包

Scala安装包

All Available Versions | The Scala Programming Language (scala-lang.org)

spark安装包

Apache Download Mirrors

二:启动虚拟机查看ip

修改网关连接xshell

将安装包使用xftp导入到虚拟机

三,Scala的安装配置

解压安装包    tar -zxvf /opt/scala-2.12.12.tgz -C /opt/

配置环境变量   

vim /etc/profile

#SCALA

export SCALA_HOME=/opt/scala-2.12.12

export PATH=$PATH:${SCALA_HOME}/bin

使用source /etc/profile使环境生效,然后再用scala -version查看安装成功没,出现2.12.12即为成功。

四,进行spark的安装部署

解压spark安装包   tar -zxvf /opt/spark-3.1.1-bin-hadoop3.2.tgz -C /opt/

修改名字以便操作

配置环境变量  vim /etc/profile

#SPARK 
export SPARK_HOME=/opt/spark
export PATH=$PATH:${SPARK_HOME}/bin
export PATH=$PATH:${SPARK_HOME}/sbin

使用source /etc/profile使环境生效

修改配置文件  进入spark里的conf目录备份文件

修改配置文件             在spark下的conf目录打开env   vim spark-env.sh

export SCALA_HOME=/opt/scala-2.12.12

export JAVA_HOME=/opt/module/java

export SPARK_MASTER_IP=master

export SPARK_WOKER_CORES=2

export SPARK_WOKER_MEMORY=2g

export HADOOP_CONF_DIR=/opt/hadoop/etc/hadoop

#export SPARK_MASTER_WEBUI_PORT=8080

#export SPARK_MASTER_PORT=7070

启动集群:spark下sbin目录下:./start-all.sh

使用jps查看 有master就是正确的

查看spark是否安装成功 返回主目录下输入spark-submit --version

  • 26
    点赞
  • 42
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值