第四章 HDFS—集群扩容及缩容

4.1 添加白名单

        白名单：表示在白名单的主机 IP 地址可以，用来存储数据。

        企业中：配置白名单，可以尽量防止黑客恶意访问攻击。

        配置白名单步骤如下：

• 在 NameNode 节点的 /opt/module/hadoop-3.1.3/etc/hadoop 目录下分别创建 whitelist 和
  blacklist 文件

1. 创建白名单，vim whitelist

   hadoop102
   hadoop103

2. 创建黑名单，touch blacklist

• 在 hdfs-site.xml 配置文件中增加 dfs.hosts 配置参数

  <!-- 白名单 -->
  <property>
      <name>dfs.hosts</name>
      <value>/opt/module/hadoop-3.1.3/etc/hadoop/whitelist</value>
  </property>
  <!-- 黑名单 -->
  <property>
      <name>dfs.hosts.exclude</name>
      <value>/opt/module/hadoop-3.1.3/etc/hadoop/blacklist</value>
  </property>

• 分发配置文件 whitelist ，hdfs-site.xml：xsync hdfs-site.xml whitelist
• 第一次添加白名单必须重启集群，不是第一次，只需要刷新 NameNode 节点即可： myhadoop.sh stop ， myhadoop.sh start
• 在 web 浏览器上查看 DN ， http://hadoop102:9870/dfshealth.html#tab-datanode
• 在 hadoop104 上执行上传数据数据失败
• 二次修改白名单，增加 hadoop104

  hadoop102
  hadoop103
  hadoop104

• 刷新 NameNode： hdfs dfsadmin -refreshNodes
• 在 web 浏览器上查看 DN ， http://hadoop102:9870/dfshealth.html#tab-datanode

4.2 服役新服务器

        随着数据量的增大，原有的数据节点的容量不能满足存储数据的需求，需要在原有集群基础上动态添加新的数据节点。

• 环境准备

1. 在 hadoop100 主机上再克隆一台 hadoop105 主机
2. 修改 IP 地址和主机名称：vim /etc/sysconfig/network-scripts/ifcfg-ens33， vim /etc/hostname
3. 拷贝 hadoop102 的 /opt/module 目录和 /etc/profile.d/my_env.sh 到 hadoop105：scp -r module/* qx@hadoop105:/opt/module/，sudo scp /etc/profile.d/my_env.sh root@hadoop105:/etc/profile.d/my_env.sh， source /etc/profile
4. 删除 hadoop105 上 Hadoop 的历史数据， data 和 log 数据：rm -rf data/ logs/
5. 配置 hadoop102 和 hadoop103 到 hadoop105 的 ssh 无密登录：ssh-copy-id hadoop105

• 服役新节点：直接在新的机器节点上启动DataNode，即可关联到集群 ：hdfs --daemon start datanode ，yarn --daemon start nodemanager
• 在白名单中增加新服役的服务器

1. 在白名单 whitelist 中增加 hadoop104、hadoop105，并重启集群：vim whitelist

   hadoop102
   hadoop103
   hadoop104
   hadoop105

2. 分发：xsync whitelist
3. 刷新 NameNode ：hdfs dfsadmin -refreshNodes

• 在 hadoop105 上上传文件：hadoopfs -put /opt/module/hadoop-3.1.3/LICENSE.txt /

4.3 服务器之间数据均衡

• 现象：在企业开发中，如果经常在 hadoop102 和 hadoop104 上提交任务，且副本数为 2，由于数据本地性原则，就会导致 hadoop102 和 hadoop104 数据过多，hadoop103 存储的数据量小。另一种情况，就是新服役的服务器数据量比较少，需要执行集群均衡命令。

  

• 开启数据均衡命令：sbin/start-balancer.sh -threshold 10，对于参数 10，代表的是集群中各个节点的磁盘空间利用率相差不超过 10%，可根据实际情况进行调整。
• 停止数据均衡命令：sbin/stop-balancer.sh

注意：由于 HDFS 需要启动单独的 Rebalance Server 来执行 Rebalance 操作，所以尽量不要在 NameNode 上执行 start-balancer.sh ，而是找一台比较空闲的机器。

4.4 黑名单退役服务器

        黑名单：表示在黑名单的主机 IP 地址不可以，用来存储数据。

        企业中：配置黑名单，用来退役服务器。

        黑名单配置步骤如下：

1. 编辑 /opt/module/hadoop-3.1.3/etc/hadoop 目录下的 blacklist 文件：vim blacklist，添加要退役的节点
2. 分发配置文件 blacklist ，hdfs-site.xml：xsync hdfs-site.xml blacklist
3. 第一次添加黑名单必须重启集群，不是第一次，只需要刷新 NameNode 节点即可： hdfs dfsadmin -refreshNodes
4. 检查 Web 浏览器，退役节点的状态为 decommission in progress （退役中），说明数据 节点正在复制块到其他节点
5. 等待退役节点状态为 decommissioned（所有块已经复制完成），停止该节点及节点资源管理器。注意：如果副本数是 3，服役的节点小于等于 3，是不能退役成功的，需要修改副本数后才能退役：hdfs --daemon stop datanode，yarn --daemon stop nodemanager
6. 如果数据不均衡，可以用命令实现集群的再平衡：sbin/start-balancer.sh -threshold 10