Linux-Hadoop部署

本文详细介绍了Hadoop的三种部署模式:独立模式、伪分布式和完全分布式,并提供了Hadoop集群规划、JDK安装配置及Hadoop安装的步骤。在集群规划中,包括了一台主节点和两台从节点的角色分配。JDK安装涉及下载、上传、安装和配置环境变量,并通过分发确保所有节点环境一致。最后,文章还涵盖了Hadoop的下载、解压、配置环境变量以及验证安装的流程。
摘要由CSDN通过智能技术生成

一、Hadoop部署模式

1、独立模式

在独立模式下,所有程序都在单个JVM上执行,调试Hadoop集群的MapReduce程序也非常方便。一般情况下,该模式常用于学习或开发阶段进行调试程序。

2、伪分布式模式

在伪分布式模式下, Hadoop程序的守护进程都运行在一台节点上,该模式主要用于调试Hadoop分布式程序的代码,以及程序执行是否正确。伪分布式模式是完全分布式模式的一个特例。

3、完全分布式模式

在完全分布式模式下,Hadoop的守护进程分别运行在由多个主机搭建的集群上,不同节点担任不同的角色,在实际工作应用开发中,通常使用该模式构建企业级Hadoop系统。

二、Hadoop集群规划

1、集群拓扑

  • 一个主节点,两个从节点
    请添加图片描述

2、角色分配

  • 完全分布式Hadoop集群搭建需要在集群的每个节点都安装Hadoop,集群角色分配如下表所示。
节点 角色
master NameNode, DataNode
slave1 DataNode
slave2 DataNode

三、JDK安装与配置

由于Hadoop是由Java语言开发的,Hadoop集群的使用依赖于Java环境,因此安装Hadoop集群之前,需要先安装并配置好JDK。

1、下载JDK压缩包

  • 下载链接:Oracle (需要登录Oracle官网才能下载)
  • 百度网盘下载:👉jdk221 、👉jdk231

2、上传到master虚拟机

  • 将JDK压缩包上传到master虚拟机/opt目录
    请添加图片描述

查看上传的JDK压缩包
请添加图片描述

3、在master虚拟机上安装配置JDK

  • 执行命令:tar -zxvf jdk-8u231-linux-x64.tar.gz -C /usr/local,将JDK压缩包解压到指定目录

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值