HDFS

本文详细介绍了HDFS的原理,包括block默认保存份数、BlockSize、Client上传文件过程、DataNode的角色、SecondaryNameNode的工作机制、NameNode与SecondaryNameNode的区别与联系。还涵盖了HDFS的存储和读取过程、HA高可用实现、Federation的原理和优势,以及节点动态上下线的操作。此外,还讨论了HDFS的常用命令和重要组件的职责。
摘要由CSDN通过智能技术生成

1.2 HDFS(☆☆☆)

1.2.1 HDFS 中的 block 默认保存几份?(A)3

A.3 份
B.2 份
C.1 份
D.不确定

1.2.2 HDFS 默认 BlockSize 是(C)64MB

A.32MB
B.64MB(2.7.2版本,本地模式)
C.128MB(2.7.2版本,分布式模式)

1.2.3 Client 端上传文件的时候下列哪项正确?(BC)

A.数据经过NameNode传递DataNode
B.Client端将文件切分为Block,依次上传
C.Client只上传数据到一台DataNode,然后由NameNode负责Block复制工作

1.2.4 下面哪个程序负责 HDFS 数据存储?(C)DataNode

A.NameNode
B.JobTracker
C.DataNode
D.SecondaryNameNode
E.tasktracker

1.2.5 关于 SecondaryNameNode 哪项是正确的?(C)

A.它是NameNode的热备
B.它对内存没有要求
C.他的目的使帮助NameNode合并编辑日志,减少NameNode 启动时间
D. SecondaryNameNode应与NameNode 部署到一个节点

1.2.6 下列哪个程序通常与 NameNode 在一个节点启动?(D)

A.SecondaryNameNode
B.DataNode
C.TaskTracker
D.JobTracker
hadoop的集群是基于master/slave模式,namenode和jobtracker属于master,datanode和tasktracker属于slave,master只有一个,而slave有多个。
SecondaryNameNode内存需求和NameNode在一个数量级上,所以通常secondary NameNode(运行在单独的物理机器上)和 NameNode 运行在不同的机器上。
JobTracker对应于NameNode,TaskTracker对应于DataNode。
DataNode和NameNode是针对数据存放来而言的。JobTracker和TaskTracker是对于MapReduce执行而言的。

mapreduce中几个主要概念,mapreduce 整体上可以分为这么几条执行线索:
jobclient,JobTracker与TaskTracker。
1)JobClient会在用户端通过JobClient类将已经配置参数打包成jar文件的应用存储到hdfs,并把路径提交到Jobtracker,然后由JobTracker创建每一个Task(即 MapTask 和 ReduceTask)并将它们分发到各个TaskTracker服务中去执行。
2)JobTracker是一master服务,软件启动之后JobTracker接收Job,负责调度Job的每一个子任务。task运行于TaskTracker上,并监控它们,如果发现有失败的task就重新运行它。一般情况应该把JobTracker 部署在单独的机器上。
3)TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信,接收作业,并负责直接执行每一个任务。TaskTracker 都需要运行在HDFS的DataNode上。

1.2.7 文件大小默认为 64M,改为 128M 有啥影响?

增加文件块大小,需要增加磁盘的传输速率。

1.2.8 HDFS的存储机制(☆☆☆☆☆)过程和读取

HDFS存储机制,包括HDFS的写入过程和读取过程两个部分

1)客户端向namenode请求上传文件,namenode检查目标文件是否已存在,父目录是否存在。
2)namenode返回是否可以上传。
3)客户端请求第一个 block上传到哪几个datanode服务器上。
4)namenode返回3个datanode节点,分别为dn1、dn2、dn3。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值