大数据-Hadoop集群搭建(配置免密登录及配置环境)_5、hadoop安装过程需要实现免密登录,且免密登录采用了非对称加密算法,算法涉及一

sudo vi /etc/hosts,修改主机映射,保存后,使用init 6命令重启网卡。

标题更改主机映射

也可以添加本机的主机映射,在SecureCRT和浏览器地址用主机名代替,更加方便。

本机主机映射

配置免密登录

为什么要配置免密登录?

未配置免密登录前

未配置免密登录前,在hadoop1登录hadoop2需要输入密码,这对以后的工作会产生很多麻烦。

在 hadoop 用户下,输入命令 ssh-keygen ,连按 3 次回车,之后你会发现,在/home/hadoop/.ssh 目录下生成了一对密钥。每台虚拟就都需要,使用发送所有对话框,输入一次就好,比较方便。

生成密钥

再分别输入ssh-copy-id hadoop1、ssh-copy-id hadoop2、ssh-copy-id hadoop3。每次需要输入yes及密码。这样就会在每台虚拟机的.ssh/authorized_keys中存在三台虚拟机的密钥。

复制密钥

复制密钥成功

可以在任一台虚拟机,使用ssh 主机名的方式登录其他虚拟机,使用exit退出。

集群配置前先同步时间

  • date(查看时间)
  • sudo ntpdate ntp1.aliyun.com(与阿里云的同步)

同步时间

集群配置

需要配置的文件,如图中的画红勾的那些。你可以照着Hadoop官网所给提示来敲,也可以从我的百度网盘下载,直接上传覆盖(上传前记得修改文件为自己的路径、用户名等)。

hadoop的配置文件

core-site.xml的配置

指定了工作目录等,读者根据自己的用户名等进行修改。

core-site.xml的配置

hadoop-env.sh的配置

指定了jdk路径,读者根据自己的进行修改。

hadoop-env.sh的配置

hdf-site.xml的配置

指令了一些数据目录等,读者根据自己的进行修改。

hdf-site.xml的配置

mapred-site.xml的配置

hadoop自带的是.template结尾的,如果你不是上传的我的文件,是自己在vi/vim编辑器下编辑的,记得改后缀。

标题

slaves的配置

填入主机名即可,读者根据自己的进行修改。

slaves的配置

yarn-site.xml的配置

添加了yarn结点的主机名等,读者根据自己的进行修改。

yarn-site.xml的配置

  • cd ~/apps/hadoop-2.7.5/etc/hadoop/
  • put D:\hadoopconfig\*  (\*是上传所有文件,这样就会覆盖掉了)

使用hadoop namenode -format,初始化namenode。

初始化

start-dfs.sh(任意结点启动dfs均可)、使用stop-dfs.sh关闭。

启动dfs

start-yarn.sh(只能在YARN的主节点启动,否则ResourceManager进程无法启动,YARN主节点设置的为hadoop3 )、使用stop-yarn.sh关闭。

启动yar成功

验证集群

1、使用jps

dfs启动后

dfs启动后的hadoop1

dfs启动后的hadoop2

dfs启动后的hadoop3

yarn启动后

yarn启动后的h1

yarn启动后的h2

yarn启动后的h3

可以看到,每台虚拟机作为什么结点,如同规划的一样。

2、web验证

可以在本机的hosts里面也添加映射,如同上篇文章的hadoop001一样,这样在SecureCRT以及浏览器地址栏用主机名代替ip即可,比较方便。输入hadoop1:50070,即可打开如下界面,可以看到激活了。

namenode查看

输入hadoop3:8088即可查看到如下界面。

yarn结点查看

总结

今天主要学习了以下内容

img
img

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

[外链图片转存中…(img-el1Bu0La-1714293134968)]
[外链图片转存中…(img-Oi6CjYd0-1714293134968)]

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

  • 29
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值