如何解决Hadoop集群环境下DataNode无法连接NameNode问题

简介

本文总结了在Hadoop集群环境下，DataNode无法连接NameNode的问题：2017-02-13 05:43:01,540 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Problem connecting to server: hadoop-master-vm/10.220.33.37:9000，重点在于问题的排除思路和方法。该问题出现的运行环境为Ubuntu 16.05 TLS, Hadoop 2.7.3环境下。

问题描述

按照博文 Ubuntu环境下Hadoop集群/分布式环境配置搭建Hadoop集群环境后，在运行hdfs dfsadmin -report查看分布式文件系统信息时发现无法显示相关数据：

hadoop@hadoop-master-vm:~$ hdfs dfsadmin -report
Configured Capacity: 0 (0 B)
Present Capacity: 0 (0 B)
DFS Remaining: 0 (0 B)
DFS Used: 0 (0 B)
DFS Used%: NaN%
Under replicated blocks: 0
Blocks with corrupt replicas: 0
Missing blocks: 0
Missing blocks (with replication factor 1): 0

-------------------------------------------------

登录http://hadoop-master-vm:50070后，DataNode列表显示为空。

问题分析与排查

这里我们来总结一下此问题的排查思路

1. 遇到该类问题时，首先需要确认的是相关的服务进程是否已经启动起来，这里可以通过jps命令来查看。如果能够正常启动的话，在Master节点上，可以看到NameNode、ResourceManager、SecondaryNameNode、JobHisotryServer服务； 在Slave节点上可以看到DataNode和NodeManager服务。通过jps命令发现相关的服务都存在。

2. 接下来需要查看的就是系统日志。系统日志位于Hadoop安装目录的logs子目录下。我们查看其中一个DataNode的日志文件$INSTALL_HADOOP/logs/hadoop-hadoop-datanode-hadoop-slave01-vm