hadoop分布式数据库--佘响平2.1

本文详细介绍了Hadoop的分布式文件系统HDFS,包括其核心组件、主从结构、HDFS的指令操作。HDFS主要用于海量数据的存储和分析,通过HDFS能实现文件的分布式存储,并提供了丰富的指令进行文件管理,如上传、查看、修改副本数量等。
摘要由CSDN通过智能技术生成

hadoop是什么?

海量数据的存储(HDFS)

        海量数据的分析(MapReduce)

        资源管理调度(YARN)

hadoop核心

        HDFS: Hadoop Distributed File System 分布式文件系统

        YARN: Yet Another Resource Negotiator    资源管理调度系统

HDFS的架构

主从结构

主节点,

只有一个: namenode

从节点,

有很多个: datanode

namenode负责:

接收用户操作请求 维护文件系统的目录结构 管理文件与block之间关系,block与datanode之间关系

datanode负责:

存储文件 文件被分成block存储在磁盘上 为保证数据安全,文件会有多个副本

 

 指令

-put上传文件该命令选项表示把linux上的文件复制到hdfs中,如图4-11所示。.图4-11-copyFromLocal从本地复制操作与-put一致,不再举例。-moveFromLocal从本地移动该命令表示把文件从linux上移动到hdfs中,如图4-12所示。图4-12getmerge合并到本地该命令选项的含义是把hdfs指定目录下的所有文件内容合并到本地linux的文件中,如图4-13所示。

图4-13-cat查看文件内容该命令选项是查看文件内容,如图4-14所示。图4-14-text查看文件内容该命令选项可以认为作用和用法与-cat相同,此处略。-mkdir创建空白文件夹该命令选项表示

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值