Linux -Spark安装

1、使用fz上传spark压缩包到/app/tools/

在这里插入图片描述

2、进入tools目录

 cd /app/tools/

在这里插入图片描述
使用ls查看

3、解压文件

tar -zxvf spark-2.4.1-bin-hadoop2.7.tgz

在这里插入图片描述
![在这里插入图片描述](https://img-blog.csdnimg.cn/eacd1ec892f54c658e91b1564e4df51b.png
在这里插入图片描述
解压成功

4、删除spark文件压缩包

rm -rf spark-2.4.1-bin-hadoop2.7.tgz 

在这里插入图片描述
(rm -rf obt_db.ql是我的另一个sql文件,你们无需此操作)

5、移动spark到/usr/local/spark

mv spark-2.4.1-bin-hadoop2.7/ /usr/local/spark

在这里插入图片描述
查看一下,此时tools下已没有spark

6、进入/usr/local/spark

cd /usr/local/spark/

在这里插入图片描述

6、进入/usr/local/spark下的conf并查看

cd conf/

在这里插入图片描述
(pwd是查看路径)

7、修改spark-env.sh.template名为 spark-env.sh

mv spark-env.sh.template spark-env.sh

在这里插入图片描述

8、修改 spark-env.sh并修改

vim spark-env.sh 

进入spark-env.sh 后按i在第一行插入两行代码

export JAVA_HOAE=/usr/local/java
export SPARK_DIST_CLASSPATH =$(/usr/local/hadoop/bin/hadoop classpath)

在这里插入图片描述

9、查看jps

jps

在这里插入图片描述

10、检查spark是否安装成功

cd /usr/local/spark/sbin/

在这里插入图片描述

10.1

 ./start-all.sh

在这里插入图片描述
至此安装成功

11、启动spark

11.1 进入bin目录
cd ../bin/
11.2启动spark
./spark-shell

在这里插入图片描述
在这里插入图片描述

11.4 简单定义一个数组
var list = List(1,3,5,7,8)

在这里插入图片描述

完结撒花

安装 Apache SparkLinux 上通常涉及几个步骤,包括下载、解压、配置环境变量和添加到系统路径,以及可能的依赖项安装。这里是一个简化的概述: 1. **下载Spark**: 访问Apache Spark官网(https://spark.apache.org/downloads.html)下载适合你系统的版本。推荐选择最新的稳定版。 2. **下载Hadoop(可选)**:Spark通常需要Hadoop作为分布式文件系统,如果你没有现成的Hadoop集群,可以同时下载Hadoop并进行安装。 3. **解压安装包**:将下载的tar.gz或zip文件解压到你希望放置Spark目录的地方,例如 `/opt/spark`。 4. **配置环境变量**: - 在`.bashrc`或`.bash_profile`等配置文件中添加Spark的bin目录到PATH,如 `export PATH=$PATH:/opt/spark/bin` - 可能还需要设置`SPARK_HOME`环境变量指向Spark安装目录。 5. **启动服务**: - 如果你打算运行Spark Standalone模式,可以在`conf/spark-env.sh`或`conf/spark-defaults.conf`配置master和worker节点信息。 - 启动Spark Master:`./sbin/start-master.sh` - 启动Worker:`./sbin/start-slave.sh --master spark://<master-ip>:7077` 6. **验证安装**: - 使用`jps`命令检查是否有`SparkMaster`和`SparkWorker`进程运行。 - 打开WebUI查看Spark的状态,通常在`http://<master-ip>:8080`。 7. **安装Scala(可选)**: Spark使用Scala编写,如果你的系统中没有Scala,可以访问Scala官网(https://www.scala-lang.org/download/)下载并安装
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

她对我说晚安欸

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值