第四部分:Apache Hadoop完全分布式集群搭建

这篇博客详细记录了如何在Linux环境下搭建完全分布式Apache Hadoop集群,包括虚拟机环境准备、集群规划、Hadoop的安装配置、集群启动与测试,以及历史服务器的配置。涉及的操作包括设置静态IP、关闭防火墙、配置免密登录、时间同步、Hadoop环境变量配置、HDFS、MapReduce和Yarn的集群配置,以及使用rsync同步配置文件。
摘要由CSDN通过智能技术生成

老师好像说这部分 面试不会问 + 以后也不咋会用 (#^.^#)  简单记下吧。

软件和操作系统版本
        Hadoop框架是采用Java语言编写,需要java环境(jvm)
        JDK版本:JDK8版本
集群:
        知识点学习:统一使用vmware虚拟机虚拟三台linux节点,linux操作系统:Centos7
        项目阶段:统一使用云服务器,5台云服务器节点
Hadoop搭建方式
        单机模式:单节点模式,非集群,生产不会使用这种方式
        单机伪分布式模式:单节点,多线程模拟集群的效果,生产不会使用这种方式
        完全分布式模式:多台节点,真正的分布式Hadoop集群的搭建(生产环境建议使用这种方式)

一、虚拟机准备环境

        1. 三台虚拟机(静态IP,关闭防火墙,修改主机名,配置免密登录,集群时间同步)
        2. 在/opt目录下创建文件夹
        3. Hadoop下载地址:
                https://archive.apache.org/dist/hadoop/common/hadoop-2.9.2/
           Hadoop官网地址:
                http://hadoop.apache.org/
        4. 上传hadoop安装文件到/opt/lagou/software

二、集群规划

三、安装hadoop

        一、安装hadoop

        登录linux121节点:
                a.进入/opt/lagou/software,解压安装文件到/opt/lagou/servers
                        tar -zxvf hadoop-2.9.2.tar.gz -C /opt/lagou/servers
                b.查看是否解压成功        ll /opt/lagou/servers/hadoop-2.9.2
                c.添加Hadoop到环境变量 vim /etc/profile
                        ##HADOOP_HOME
                        export HADOOP_HOME=/opt/lagou/servers/hadoop-2.9.2
                        export PATH=$PATH:$HADOOP_HOME/bin
                        export PATH=$PATH:$HADOOP_HOME/sbin
                d.使环境变量生效        source /etc/profile
                e.验证hadoop        hadoop version

        hadoop目录介绍:
                1. bin目录:对Hadoop进行操作的相关命令,如hadoop,hdfs等
                2. etc目录:Hadoop的配置文件目录,入hdfs-site.xml,core-site.xml等
                3. lib目录:Hadoop本地库(解压缩的依赖)
                4. sbin目录:存放的是Hadoop集群启动停止相关脚本,命令
                5. share目录:Hadoop的一些jar

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值