DataNode工作机制
- 一个数据块在DataNode上以文件形式存储在磁盘上,包括两个文件:一个是数据本身,一个是元数据包括数据块的长度,块数据的校验和,以及时间戳。
- DataNode启动后向NameNode注册,通过后,周期性(1小时)的向NameNode上报所有的块信息。
- 心跳是每3秒一次,心跳返回结果带有NameNode给该DataNode的命令如复制块数据到另一台机器,或删除某个数据块。
- 如果超过10分钟没有收到某个DataNode的心跳,则认为该节点不可用。
- 集群运行中可以安全加入和退出一些机器。
数据完整性
思考:
如果DataNode磁盘中存储的数据是控制红绿灯的红灯信号(1)和绿灯(0),但是存储该数据的磁盘坏了,一直显示是绿灯,是否很危险?同理,DataNode节点上的数据损坏了,却没有发现,也是很危险的,那么如何解决呢?
如下是DataNode节点保证数据完整性的方法
- 当DataNode读取Block的时候,它会计算CheckSum。
- 如果计算后的CheckSum,与Block创建时值不一样,说明Block已经损坏。
- Client读取其他DataNode上的Block。
- DataNode在其文件创建后周期验证CheckSum。
掉线时限参数设置
- DataNode进程死亡或者网络故障造成DataNode无法与NameNode通信。
- NameNode不会立即把该节点判定为死亡,要经过一段时间,这段时间暂称作超时时长。
- HDFS默认的超时时长为10分钟+30秒。
- 如果定义超时时间为TimeOut,则超时时长的计算公式为:
TimeOut = 2 * dfs.namenode.heartbeat.recheck-interval + 10 * dfs.heartbeat.interval。
默认的dfs.namenode.heartbeat.recheck-interval 大小为5分钟,dfs.heartbeat.interval默认为3秒。
可以通过在配置文件hdfs-site.xml修改参数来修改掉线时限
需要注意的是hdfs-site.xml 配置文件中的heartbeat.recheck.interval的单位为毫秒,dfs.heartbeat.interval的单位为秒。
服役新数据节点
需求:
随着公司业务的增长,数据量越来越大,原有的数据节点的容量已经不能满足存储数据的需求,需要在原有集群基础上动态添加新的数据节点。
- 环境准备
- 在hadoop104主机上再克隆一台hadoop105主机
- 修改IP地址和主机名称
- 删除原来HDFS文件系统留存的文件(/opt/module/hadoop-2.7.2/data和log)
- source配置文件
[redhat@hadoop105 hadoop-2.7.2]$ source /etc/profile
2.服役新节点具体步骤
- 直接启动DataNode,即可关联到集群
[redhat@hadoop105 hadoop-2.7.2]$ sbin/hadoop-daemon.sh start datanode
[redhat@hadoop105 hadoop-2.7.2]$ sbin/yarn-daemon.sh start nodemanager
- 在hadoop105上上传文件
[redhat@hadoop105 hadoop-2.7.2]$ hadoop fs -put /opt/module/hadoop-2.7.2/LICENSE.txt /
- 如果数据不均衡,可以用命令实现集群的再平衡
[redhat@hadoop102 sbin]$ ./start-balancer.sh
为什么不在slave文件中写入hadoop105?
答: 因为启动是在hadoop105上进行的单点启动,slave只在NameNode群起集群时有用
退役旧数据节点
当集群运行一段时间后,一些旧的节点因为性能等等原因需要下线,将业务转移到其他的服务器上。对于退役节点的做法,一般有两种:添加黑名单与添加白名单
添加黑名单
- 在NameNode的/opt/module/hadoop-2.7.2/etc/hadoop目录下创建blacktxt文件
[redhat@hadoop102 hadoop]$ pwd
/opt/module/hadoop-2.7.2/etc/hadoop
[redhat@hadoop102 hadoop]$ touch dfs.hosts.exclude
[redhat@hadoop102 hadoop]$ vi dfs.hosts.exclude
添加如下主机名称(需要退役的节点)
hadoop105
- 在NameNode的hdfs-site.xml配置文件中增加dfs.hosts.exclude属性
<property>
<name>dfs.hosts.exclude</name>
<value>/opt/module/hadoop-2.7.2/etc/hadoop/blacktxt</value>
</property>
- 刷新NameNode、刷新ResourceManager
[redhat@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
[redhat@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
- 检查Web浏览器,退役节点的状态为decommission in progress(退役中),说明数据节点正在复制块到其他节点
- 等待退役节点状态为decommissioned(所有块已经复制完成),停止该节点及节点资源管理器。注意:如果副本数是3,服役的节点小于等于3,是不能退役成功的,需要修改副本数后才能退役
- 如果数据不均衡,可以用命令实现集群的再平衡
[redhat@hadoop102 hadoop-2.7.2]$ sbin/start-balancer.sh
添加白名单
添加到白名单的主机节点,都允许访问NameNode,不在白名单的主机节点,都会被退出。
- 在NameNode的/opt/module/hadoop-2.7.2/etc/hadoop目录下创建writetxt文件
[redhat@hadoop102 hadoop]$ pwd
/opt/module/hadoop-2.7.2/etc/hadoop
[redhat@hadoop102 hadoop]$ touch writetxt
[redhat@hadoop102 hadoop]$ vi writetxt
添加如下主机名称(不退役的节点)
hadoop102
hadoop103
hadoop104
- 在NameNode的hdfs-site.xml配置文件中增加dfs.hosts属性
<property>
<name>dfs.hosts</name>
<value>/opt/module/hadoop-2.7.2/etc/hadoop/writetxt</value>
</property>
- 配置文件分发
[redhat@hadoop102 hadoop]$ xsync hdfs-site.xml
- 刷新NameNode
[redhat@hadoop102 hadoop-2.7.2]$ hdfs dfsadmin -refreshNodes
Refresh nodes successful
- 更新ResourceManager节点
[redhat@hadoop102 hadoop-2.7.2]$ yarn rmadmin -refreshNodes
- 在web浏览器上查看
- 如果数据不均衡,可以用命令实现集群的再平衡
[redhat@hadoop102 hadoop-2.7.2]$ sbin/start-balancer.sh
黑名单中指定的hadoop105,退役后在hadoop的集群中它还是存在的,且hadoop还在不断和hadoop105联系;但是白名单中未指定的hadoop105则是在hadoop集群中直接被除名了
所以可以发现:黑名单对待退役节点比较“温和”,白名单对待退役节点没有什么“人情味”,所以退役节点应该选择黑名单,白名单更多是被用来增加集群安全性的,而不是用来退役节点的
DataNode多目录配置
- DataNode也可以配置成多个目录,每个目录存储的数据不一样。即:数据不是副本
- 具体配置如下
hdfs-site.xml<property>
<name>dfs.datanode.data.dir
<value>file:///${hadoop.tmp.dir}/dfs/data1,file:///${hadoop.tmp.dir}/dfs/data2</value>
</property>
- 关闭hadoop并且删除data和logs中的全部数据
[redhat@hadoop102 hadoop-2.7.2]$rm -rf data/ logs/
[redhat@hadoop103 hadoop-2.7.2]$rm -rf data/ logs
[redhat@hadoop104 hadoop-2.7.2]$rm -rf data/ logs
- 格式化集群并启动
[redhat@hadoop102 hadoop-2.7.2]$hdfs namenode -format
[redhat@hadoop102 hadoop-2.7.2]$start-dfs.sh
[redhat@hadoop103 hadoop-2.7.2]$start-yarn.sh
- 查看结果