Hadoop集群搭建知识点和添加从节点操作

1.Hadoop集群搭建知识

(具体相关搭建步骤可参考Hadoop入门(七)——Hadoop安装(图文详解步骤2021)_Leokadia Rothschild的博客-CSDN博客_hadoop 安装 这里面十分全面,我这里不做具体的操作了,而是整理集群搭建的大概所需步骤)

 

1.在虚拟机上安装centos7,先建立一台名为hadoop100的虚拟机,进行vmware虚拟网络设置、window10的地址配置、配置hadoop100的ip地址为192.168.10.102,设置主机名、host映射,最后查看网络是否能够ping通。

2.将hadoop100克隆出三台一样的虚拟机,分布为hadoop102(192.168.10.102)、hadoop103(192.168.10.103)、hadoop104(192.168.10.104)

3.对三台克隆机的主机名进行修改, vim /etc/hostname(改为hadoop100、hadoop102、hadoop103、hadoop104)

4.Host映射(3台) vim /etc/hosts

5.防火墙关闭(3台)

systemctl stop firewalld.service    #关闭防火墙

systemctl disable firewalld.service  #禁止防火墙开启自启

6.jdk的安装和配置其环境变量

(上传安装包、解压安装包)

解压jdk:tar -zxvf jdk-8u181-linux-x64.tar.gz -C /opt/module/

配置环境变量:sudo vim /etc/profile.d/my_env.sh

内容如下

#JAVA_HOME 
export JAVA_HOME=/opt/module/jdk1.8.0_212 
export PATH=$PATH:$JAVA_HOME/bin 

环境变量生效:source /etc/profile

最后测试jdk是否安装成功,分别执行java和java -version

7.hadoop的安装和配置其环境变量

ll /opt/module/hadoop-3.1.4安装包和jdk1.8.0_181安装包存放的位置;上传安装包

  • 1
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop集群搭建实验的收获和感想主要包括以下几个方面: 收获: 1. 技术知识:通过实验,深入了解了Hadoop生态系统中的核心组件,如HDFS、MapReduce、YARN等。掌握了如何配置和部署集群,以及如何使用Hadoop工具进行数据存储、处理和分析。 2. 实践经验:实验中遇到了许多实际问题,如网络配置、节点故障等,通过解决这些问题,积累了宝贵的实践经验。 3. 集群管理:学会了如何管理和维护Hadoop集群,包括监控集群状态、调整资源配置、优化性能等。 4. 大数据处理:认识到Hadoop在处理大数据方面的优势,如高吞吐量、低延迟、可扩展性等。这为今后在大数据领域的工作或学习中提供了坚实的基础。 感想: 1. 挑战与成就感:实验过程中遇到了许多挑战,如复杂的配置过程、漫长的部署时间等。但每当解决一个问题,都会感到非常有成就感。 2. 团队合作:搭建Hadoop集群需要多人的协作,大家共同解决问题、分享信息,有助于增强团队凝聚力。 3. 持续学习:Hadoop是一个不断发展的生态系统,需要持续学习以跟上技术的发展。实验过程中学到的知识只是冰山一角,后续还需要进一步深入学习。 4. 实际应用:通过实验,深刻体会到Hadoop在现实生活中的应用,认识到大数据的重要性,以及掌握Hadoop技术的重要性。 总的来说,通过搭建Hadoop集群实验,不仅提高了技术水平,还积累了实践经验,了解了大数据的实际应用,并认识到持续学习的重要性。同时,也感受到了挑战与成就感的交织,以及团队合作的价值。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值