记录本机(windows11)搭建spark过程

版本说明:JDK8,scala-2.1.3,spark-3.4.1,hadoop-3.2.4,winutils.exe和hadoop.dll为3.3.5

1、安装JDK8

由于不需要写Java,本来想省事只装jre。结果走了些弯路,最后还是装的jdk,jdk包含了jre。 jdk8安装包装完jdk后,会自动安装jre,注意jdk目录和jre目录是平级关系,以免发生覆盖,如C:/java/jdk8,C:/java/jre8。

配置环境变量

(1)在系统环境变量中,新增JAVA_HOME=C:/java/jdk8。
(2)在Path中新增%JAVA_HOME%\bin和%JAVA_HOME%\jre\bin。
(3)命令行检查:java;javac;java -verison。三者都没报错就ok了。
距离我上一次配置java已经快两年前了,不知道为啥现在不需要配classpath了。

2、安装scala

一直next,装完就成,不需要配置环境变量。

3、安装hadoop

网上说windows本地可以用winutils.exe,就不需要安装hadoop。我试了下不行,还是老老实实下了一个hadoop,解压后,配置环境变量,在系统环境变量中新增:HADOOP_HOME=C:\hadoop-3.2.4。Path新增%HADOOP_HOME%bin,由于hadoop是Linux版本,此时还需要winutils.exe和hadoop.dll放入bin目录下。最后可用hadoop version查看是否安装成功。

4、安装spark

解压,配置环境变量,在系统环境变量中新增SPARK_HOME=C:\spark-3.4.1。在Path中新增%SPARK_HOME%\bin。

最后双击spark的bin目录下:spark-shell.cmd,查看是否安装成功。

在这里插入图片描述

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

学不懂数学

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值