大数据技术原理与应用-林子雨版-课后习题答案

最新推荐文章于 2024-05-14 01:16:20 发布

2301_82243078

最新推荐文章于 2024-05-14 01:16:20 发布

阅读量1.2k

点赞数 10

分类专栏： 2024年程序员学习文章标签：大数据

本文链接：https://blog.csdn.net/2301_82243078/article/details/137398949

版权

本文详述了Hadoop的HDFS块设计及其优势，介绍了名称节点和数据节点的功能。此外，还探讨了HBase在Hadoop体系中的角色，包括与MapReduce、Zookeeper、HDFS的关系，以及HBase的数据模型、访问接口、数据分区和恢复机制。文章还涵盖了HBase与传统数据库的区别，并讨论了NoSQL的含义、类型及其优缺点。最后，涉及云数据库的概念、特性、影响和厂商，以及UMP系统在数据安全和资源管理上的功能。

摘要由CSDN通过智能技术生成

HDFS中的块，默认一个块大小为64MB，而HDFS中的文件会被拆分成多个块，每个块作为独立的单元进行存储。HDFS在块的大小的设计上明显要大于普通文件系统。

4.试述HDFS中的名称节点和数据节点的具体功能。

答：名称节点负责管理分布式文件系统系统的命名空间，记录分布式文件系统中的每个文件中各个块所在的数据节点的位置信息；

数据节点是分布式文件系统HDFS的工作节点，负责数据的存储和读取，会根据客户端或者是名称节点的调度来进行数据的存储和检索，并向名称节点定期发送自己所存储的块的列表。

hadoop fs -ls 显示指定的文件的详细信息

hadoop fs -cat 将指定的文件的内容输出到标准输出

hadoop fs -mkdir 创建指定的文件夹

hadoop fs -get [-ignorecrc] [-crc] 复制指定的文件到本地文件系统指定的文件或文件夹。-ignorecrc选项复制CRC校验失败的文件。使用-crc选项复制文件以及CRC信息。

hadoop fs -put 从本地文件系统中复制指定的单个或多个源文件到指定的目标文件系统中。也支持从标准输入(stdin)中读取输入写入目标文件系统。

hadoop fs -rmr 删除指定的文件夹及其的所有文件

第四章

1.试述在Hadoop体系架构中HBase与其他组成部分的相互关系。

答： HBase利用Hadoop MapReduce来处理HBase中的海量数据，实现高性能计算；利用Zookeeper作为协同服务，实现稳定服务和失败恢复；使用HDFS作为高可靠的底层存储，利用廉价集群提供海量数据存储能力; Sqoop为HBase的底层数据导入功能，Pig和Hive为HBase提供了高层语言支持，HBase是BigTable的开源实现。

2.请阐述HBase和BigTable的底层技术的对应关系

答：

项目	BigTable	HBase
文件存储系统	GFS	HDFS
海量数据处理	MapReduce	Hadoop MapReduce
协同服务管理	Chubby	Zookeeper

3.请阐述HBase和传统关系数据库的区别

答：

区别	传统关系数据库	HBase
数据类型	关系模型	数据模型
数据操作	插入、删除、更新、查询、多表连接	插入、查询、删除、清空，无法实现表与表之间关联
存储模式	基于行模式存储，元组或行会被连续地存储在磁盘也中	基于列存储，每个列族都由几个文件保存，不同列族的文件是分离的
数据索引	针对不同列构建复杂的多个索引	只有一个行键索引
数据维护	用最新的当前值去替换记录中原来的旧值	更新操作不会删除数据旧的版本，而是生成一个新的版本
可伸缩性	很难实现横向扩展，纵向扩展的空间也比较有限	轻易地通过在集群中增加或者减少硬件数量来实现性能的伸缩

4.HBase有哪些类型的访问接口？

答：HBase提供了Native Java API , HBase Shell , Thrift Gateway , REST GateWay , Pig , Hive 等访问接口。

5.请以实例说明HBase数据模型。

	Info
	Name	Major	Email
201505001	Luo Min	Math	Luo@qq.com
201505002	Liu Jun	Math	liu@qq.com
201505003	Xie You	Math	xie@qq.com you@163.com

6.分别解释HBase中行键、列键和时间戳的概念

行键是唯一的，在一个表里只出现一次，否则就是在更新同一行，行键可以是任意的字节数组。

列族需要在创建表的时候就定义好，数量也不宜过多。列族名必须由可打印字符组成，创建表的时候不需要定义好列。

时间戳，默认由系统指定，用户也可以显示设置。使用不同的时间戳来区分不同的版本。

7.请举个实例来阐述HBase的概念视图和物理视图的不同

HBase数据概念视图

行键	时间戳	列族contents	列族anchor
“com.cnn.www”	T5		Anchor:cnnsi.com=”CNN”
“com.cnn.www”	T3		Anchor:my.look.ca=”CNN”
“com.cnn.www”	T3	Content:html=”<html>...”
	T2	Content:html=”<html>...”
	T1	Content:html=”<html>...”