hadoop
小肖爱编程
这个作者很懒,什么都没留下…
展开
-
Datanode工作原理
首先要知道,datanode是用来存放block块信息的。 datanode启动的时候主动注册,namenode就知道集群中有哪些datanode 注册之后会上报block信息,告诉namenode存储了哪些block块及其信息信息 Datanode默认60分钟上报一次当前节点中的block信息 心跳机制: 检测datanode是否可用。 Namenode每隔3秒钟给datanoede发送信息。 Datanode会响应信息 ,如果10分钟之内没有收到响应信息,namenode就认为是不可用了。 ..原创 2021-05-29 19:46:42 · 347 阅读 · 0 评论 -
hdfs读流程
客户端通过DistributedFileSystem与namenode进行通信,请求下载文件 Namenode通过查找自己的元数据信息,获得文件对应的block块及其位置信息,响应给客户端 客户端通过网络拓扑,选择一台datanode (就近原则),进行请求读取,请求读取的时候通过FSDataInputStream 客户端以package为单位进行读取,先写入到客户单的本地的缓存中(内存中),然后同步到磁盘。 【补充】: 磁盘中的 editsxxx 操作日志 对分布式文件存储系统的操作记录 fsi..原创 2021-05-29 19:32:18 · 101 阅读 · 0 评论