[Nutch]限制Hadoop结点连接

本文详细介绍了如何限制Hadoop节点的连接,包括配置hdfs-site.xml,添加集群节点,设置mapred-site.xml,配置主机以及重启集群的步骤,确保节点连接得到有效控制。
摘要由CSDN通过智能技术生成

上一篇博文我们有说明如何动态增加一个DataNode结点和TaskTracker结点,本次就来说明一下如何限制hadoop结点的连接。

1. 配置hdfs-site.xml文件

新增如下内容:

<property>
  <name>dfs.hosts</name>
  <value>/home/hadoop/workspace/hadoop-1.2.1/conf/include</value>
</property>
<property>
  <name>dfs.hosts.exclude</name>
  <value>/home/hadoop/workspace/hadoop-1.2.1/conf/exclude</value>
</property>

如下:
这里写图片描述

2. 添加加入集群的结点

修改dfs.hosts指定的文件,如下:

vim /home/hadoop/workspace/hadoop-1.2.1/conf/include

添加当前使用的主机:host1、 host2、 host3、 host4
如下:
这里写图片描述

3. 在host3上配置mapred-site.xml

使用如下命令:

vim workspace/hadoop-1.2.1/conf/mapred-site.xml

新增如下内容:

<property>
  <name>mapred.hosts</name>
  <value>/home/hadoop/workspace/hadoop-1.2.1/conf/include</value>
</property>
<property>
  <name>mapred.hosts.exclude</name>
  <value>/home/hadoop/workspace/hadoop-1.2.1/conf/exclude</value>
</property>

如下:
这里写图片描述

4. 配置主机

修改mapred.hosts指定的文件,如下:

vim /home/hadoop/workspace/hadoop-1.2.1/conf/include

添加当前使用的主机:host1、 host2、 host3、 host4
如下:
这里写图片描述

5. 重启集群

在host3上使用如下命令:

stop-mapred.sh

如下:
这里写图片描述

在host1上使用如下命令:

stop-dfs.sh

如下:
这里写图片描述

在host1上启动dfs:

start-dfs.sh

这里写图片描述

在host3上启动mapreduce:

start-mapred.sh

如下:
这里写图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值