Zookeeper 集群搭建DC
Hadoop-HDFS
存储模型:字节
- 文件线性切割(Block): 偏移量 offset(byte , 中文)
- Block分散存储在集群节点中
- 单一文件Bloack大小一致,文件与文件可以不一致
- Block可以设置副本数,副本无序分散在不同的节点中
- 副本数不要超过节点数量
- 文件上传可以设置Block大小和副本数(资源不够开辟的进程)
- 已经上传的Block副本数可以调整,大小不变
- (2.x 128Mb Blocks)
- 只支持一次写入多次读取,同一时刻只有一个写入者
- 可以append追加数据
架构模型:
-
文件元数据MetaData 文件数据
- 元数据
- 数据本身
-
(主)NameNode节点保存文件元数据:单节点:单节点 posix
-
(从) DataNode节点保存文件Block数据:多节点
-
DataNode与NameNode保持心跳,提交Block列表
-
HdfsClient与NameNode交互元数据信息
-
HdfsClient与DataNode交互文件Block数据(CS)
-
DataNode利用服务器本地文件系统和存储数据块