Hadoop集群搭建及docker安装

本文详细记录了使用VMware虚拟机安装CentOS 7,配置CentOS,克隆虚拟机搭建Hadoop集群,配置Hadoop,启动Hadoop集群,执行MapReduce示例以及安装Docker的全过程。包括网络配置、主机名设置、免密码登录、环境变量配置等关键步骤。
摘要由CSDN通过智能技术生成

目录

前言

一:首先将VMware以及所需的XShell,Xftp安装完成

二:在VMware虚拟机中安装CentOS 7

三.配置Centos7

四.克隆虚拟机,配置主机,搭建集群

五、用Xshell连接三台虚拟机

六.配置Hadoop

七.启动Hadoop集群

八.mapreduce示例

九.安装docker




前言

    这是我第一次搭建hadoop,也参考了很多的博主的文章才搭建完成,以下是我的安装步骤。

一:首先将VMware以及所需的XShell,Xftp安装完成

       上述软件到官网下载即可。

二:在VMware虚拟机中安装CentOS 7

  1. 下载需要的镜像文件CentOS-7-x86_64-Minimal-2009.iso,最好的选用清华的镜像源。
  2. 打开VMware创建新的虚拟机,在安装程序光盘映像文件中选用我们之前下载好的镜像文件。
  3. 安装位置和大小自行选择,一直点击下一步。
  4. 安装语言选择简体中文。
  5. 点击安装位置,选择本地标准磁盘后点击完成。
  6. 点击网络和主机名进行配置(该图片中的内容后面需要,建议截图)

8.点击配置,然后点击IPV4设置,将方法改为手动,然后点击Add添加地址,子网掩码和网关也就是上图中的内容。DNS用的是阿里的DNS223.5.5.5,223.6.6.6,然后勾选IPv4点击保存 

9.保存后可以更改主机名,我这里将其设置为localhost。

10.点击开始安装,点击设置ROOT密码,这里设置为了123456。

11.安装完成后点击重启,在localhost login那一行输入root用户名,点击回车,然后输入我们刚刚设置好的密码123456,然后回车。以下显示安装成功。

12.输入ping www.bai.com 测试虚拟机是否联网成功。下图显示安装成功。

三.配置Centos7

1.运行yum -y update命令,更新yum源,显示complete则更新完成。

2.关闭系统防火墙,分别输入以下两条命令:

systemctl stop firewalld.service

 systemctl disable firewalld.service

3.关闭Linux系统内核SELinux输入vi /etc/selinux/config 。

找到SELINUX=enforcing这一行,将enforcing修改为disabled,然后保存退出。

4.输入reboot命令回车重启系统。然后输入/usr/sbin/sestatus -v  查看SELinux是否被禁用。

5.输入yum install vim -y 安装vim编辑器

6.输入:vim /etc/hosts编辑hosts文件

      添加localhost 的ip地址,加上a1和a2,它们的地址在localhost的ip地址后缀处分别加1,修改保存并退出。

7.接着创建Hadooptools文件夹,后面文件放在此文件夹。再根目录进行创建。

        依次输入下面命令:cd /root   mkdir Hadooptools    cd Hadooptools

8.打开下载的xftp,点击新建会话。

 

 9.将Hadoop安装包和jdk安装包拖拽到/root/Hadooptools文件下

 

10.在虚拟机中输入cd /root/Hadooptools命令进入hadoop文件夹,再输入ls查看是否上传成功。

 

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
使用Docker安装Hadoop集群的步骤如下: 1. 首先,使用以下命令在Docker中创建三个独立的Hadoop容器: ``` docker run -itd --network hadoop --name hadoop1 hadoop docker run -itd --network hadoop --name hadoop2 hadoop docker run -itd --network hadoop --name hadoop3 hadoop ``` 这些命令会在Docker网络中创建三个名为hadoop1、hadoop2、hadoop3的容器,并使用预先构建的Hadoop镜像。 2. 接下来,我们需要进入每个Hadoop容器并进行配置。使用以下命令进入每个容器: ``` docker exec -it hadoop1 bash docker exec -it hadoop2 bash docker exec -it hadoop3 bash ``` 这些命令将进入到hadoop1、hadoop2、hadoop3容器的命令行界面。 3. 在每个Hadoop容器中,您可以按照正常的Hadoop安装和配置步骤进行操作。具体来说,您可以编辑相应的配置文件,如core-site.xml、hdfs-site.xml和mapred-site.xml等,以配置IP地址映射和其他必要的Hadoop参数。配置完毕后,保存并退出容器。 通过以上步骤,您可以使用Docker安装Hadoop集群。请注意,这只是一个基本的示例,您可能需要根据您的实际需求进行适当的修改和配置。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [[零基础]用docker搭建Hadoop集群](https://blog.csdn.net/weixin_56114243/article/details/127937607)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值