spark环境的搭建

打开虚拟机

在这里插入图片描述

下载安装文件spark软件包

将软件包放置到linux系统中

在这里插入图片描述

在指定路径下解压spark安装包

因为是图形化界面,所以好操作很多,像在Windows环境下一样将spark文件移入需要的路径下,并解压,重命名为spark
在这里插入图片描述

修改spark-env.sh文件

先复制2文件,再把复制之后的文件重命名为1文件名也就是spark-env.sh,然后直接打开文件,修改完后保存就可以了。添加的内容如图所示:

在这里插入图片描述
在这里插入图片描述

这个路径要和自己的hadoop安装路径相同(如果不记得自己的hadoop环境变量的话,可以打开自己的环境变量看看 cat etc/profile)

修改./bashrc文件在这里插入图片描述

在这里插入图片描述

路径要按自己实际的来

刷新变量使之生效

在这里插入图片描述

验证spark是否安装成功

在这里插入图片描述

太长了,我们运行一个别的

在这里插入图片描述
。。。。。
在这里插入图片描述
虽然进入了Scala,但我们觉得好像还是哪里出了点问题,于是查看spark中的文件夹和当时配置时的环境变量,发现有一个地方写错了。我们把python3中的3去掉,在这里插入图片描述

重新刷新该文件

然后启动pyspark
在这里插入图片描述
启动成功。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

且从容.

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值