Windows安装Hadoop、Spark

环境:

Windows 10
java 1.8 x64
scala 2.13.12
hadoop 2.7.1
spark 3.0.0
工具包:
链接:https://pan.baidu.com/s/19KmxTM-FiAclpBcOkBFLIA?pwd=h0ke
提取码:h0ke

安装JAVA(64位)

双击jdk-8u381-windows-x64安装
配置环境变量

在这里插入图片描述

将Program Files替换成Progra~1
将Program Files (x86)替换成Progra~2,因为Hadoop、Spark不允许路径中有空格。

安装Scala

双击运行scala-2.13.12

安装Hadoop

解压hadoop-2.7.1.tar、hadooponwindows-master两个压缩包
需要使用管理员权限解压。
解压完成后需要将hadooponwindows-master文件夹下的bin、etc复制到hadoop-2.7.1的目录中,

在这里插入图片描述
在这里插入图片描述

在该目录下创建data、tmp文件夹,在data文件夹中创建namenode和datanode。
修改etc/hadoop配置文件
hadoop-env.cmd

在这里插入图片描述

hdfs-site.xml

在这里插入图片描述

core-site.xml

在这里插入图片描述

打开命令行运行 hdfs namenode -format,不报错就算好了

在这里插入图片描述

转到sbin目录下,运行start-all。

在这里插入图片描述在这里插入图片描述

安装Spark

解压spark-3.0.0-bin-hadoop2.7

在这里插入图片描述

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Windows 10是一种操作系统,可以用于开发和测试HadoopSpark的本地环境。 要在Windows 10上进行HadoopSpark的开发和测试,我们可以使用一些工具和软件。 首先,我们可以使用HadoopSpark的官方网站提供的二进制文件来安装它们。我们需要下载和安装Hadoop的二进制文件,然后配置Hadoop的环境变量。在Hadoop安装完成后,我们还需要配置Hadoop的核心配置文件,例如hadoop-env.sh和core-site.xml。 接下来,我们可以下载和安装Spark的二进制文件,并将其配置为与Hadoop协同工作。我们需要在Spark的配置文件中指定Hadoop的路径。我们还可以配置Spark的一些其他设置,例如内存分配和并行度等。 在安装和配置HadoopSpark之后,我们可以使用本地模式或伪分布式模式来进行开发和测试。本地模式是指将数据存储在本地文件系统上,并且不涉及集群。这使我们可以快速的进行开发和测试,但不适合处理大规模的数据。 伪分布式模式是指将数据存储在Hadoop的分布式文件系统(HDFS)上,并在本机上模拟一个分布式环境。这样,我们可以模拟真实环境的数据处理和分布式计算。在伪分布式模式下,我们可以运行Hadoop的各种任务和Spark的作业,以测试它们的性能和可靠性。 总之,使用Windows 10可以在本地开发和测试HadoopSpark环境。我们需要下载和安装HadoopSpark的二进制文件,并进行适当的配置。然后,我们可以在本地模式或伪分布式模式下进行开发和测试。这样,我们可以在一个便捷和可控的环境中进行HadoopSpark的开发和测试,以满足我们的需求。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

MELENCOLIA

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值