Hadoop伪分布式安装配置

本文详细介绍了Hadoop集群的配置步骤,包括修改hadoop-env.sh、core-site.xml、hdfs-site.xml等配置文件,格式化NameNode,启动DFS服务,配置并启动YARN服务,以及设置SSH免密码登录,以简化后续操作。
摘要由CSDN通过智能技术生成


一、修改配置文件

1.修改配置文件hadoop-env.sh

在 /usr/local/java/hadoop-2.7.7/etc/hadoop目录下面修改hadoop-env.sh

执行命令:

cd /usr/local/java/hadoop-2.7.7/etc/hadoop

输入ls查看文件

这里是引用

执行命令:

sudo vi hadoop- env.sh

在hadoop-env.sh中修改

在这里插入图片描述

2.修改配置文件core-site.xml

在hadoop目录下执行命令:

sudo vi core-site.xml

这里是引用
在这里插入图片描述

3.修改配置文件hdfs-site.xml
在hadoop目录下执行命令:

sudo vi hdfs-site.xml

在这里插入图片描述

二、格式化NameNode

执行命令:

hdfs namenode -format  或者 hadoop namenode -format

需要多次输入密码进行验证这里是引用

启动NameNode和DataNode
执行命令:

start-dfs.sh

在这里插入图片描述

检查是否成功启动

在这里插入图片描述

三、配置yarn服务

修改配置文件mapred-site.xml

在hadoop目录下执行命令
如果目录中没有mapred-site.xml 执行命令

sudo mv mapres-site.xml.template mapred-site.xml

这里是引用

接着执行命令:

sudo vi mapred-site.xml

输入以下内容:

这里是引用

修改配置文件yarn-site.xml

在hadoop目录下修改文件:

这里是引用

启动yarn服务

start-yarn.sh

在启动过程中需要输入密码进行验证
在这里插入图片描述
输入jps查看启动结果
在这里插入图片描述

四、SSH免密码登录

  1. cd ~/.ssh/
  2. ssh-keygen -t rsa(一直按回车键)
  3. cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
  4. chmod 700 ~/.ssh (修改~/.ssh的权限为700)
  5. chmod 644 ~/.ssh/authorized_keys
  6. chmod 700 ~/.ssh/id_rsa
  7. chmod 777 ~/.ssh/id_rsa.pub
  8. chmod 777 ~/.ssh/known_hosts
  9. ssh localhost 免密码登录

在这里插入图片描述

在这里插入图片描述

再次重新启动分布式文件系统服务的时候,就没有输入密码确认了!

在Web界面输入以下网址,可以查看NameNode和Datanode的信息,也可以在线查看HDFS中的文件

http://localhost:50070

在这里插入图片描述

  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值