初识Hadoop(中)-HDFS的入门与原理(读写流程)-大数据快速入门

        HDFS首先是用来存储文件,存储数据的一个大数据最底层的一个服务,其次是一个分布式的文件系统。

        HDFS具有哪些核心特性呢:

  1. 主从架构(master|slaves),主角色:namenode是维护和管理元数据的即文件,大小,副本位置信息等。从角色:DataNode,存储数据的地方。
  2. 分块存储:即物理上将文件分开存储,一个文件根据大小划分为不同的块,每个块存储在不同的机器上,来确保数据的安全。
  3. 副本机制:默认情况下是3副本,根据实际情况和需要可以更改副本数量。
  4. metadata:元数据,也就是记录数据的数据,对于HDFS来说,目录结构及文件块为止信息叫做元数据。
  5. 一次写入多次读取:HDFS的模式是一次写入多次读取,没有随机修改编辑的操作,只能对既有的数据进行追加。

        HDFS写文件流程:

  1. 客户端和namenode建立联系。
  2. namenode判断需要写入的文件是否存在以及是否有权限。
  3. 判断成功可以支持写入,将文件块拆分成包进行传递,默认三副本,即需要三台机器。
  4. 文件在机器传输中通过pipeline进行连接,并传输完成后通过ack应答,确保传输正确。
  5. 所有文件传输完成后关闭连接。

        HDFS读流程:

  1. 客户端与namenode建立连接,获取块的位置信息。
  2. 根据获取的位置信息读取数据,并进行校验,数据缺失从新找另一台机器进行读取。
  3. 读取完所有的数据后将关闭连接。

        HDFS工作机制,namenode和DataNode的通信机制,首先DataNode启动时会向namenode进行注册,并汇报自己持有的数据块信息,DataNode每隔3秒向namenode进行心跳报活,每隔6小时向namenode进行数据块的汇报。

  • 4
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要修改 HDFS 文件的权限,可以使用以下命令: 1. 查看文件或目录的权限信息: ```bash hadoop fs -ls /path/to/file_or_directory ``` 2. 修改文件或目录的权限: ```bash hadoop fs -chmod <MODE> /path/to/file_or_directory ``` 其,`<MODE>` 可以使用数字或符号两种方式指定,如下所示: - 数字方式:将 3 个数字分别代表文件所有者、文件所属组、其他用户的权限设置为“、执行”的组合,每个权限用 3 位二进制数表示,如 `rwx` 对应二进制数 `111`,表示可、可、可执行。 例如,将文件 `/user/hadoop/test.txt` 的权限设置为所有用户都可取和执行,但只有文件所有者可入,可以使用以下命令: ```bash hadoop fs -chmod 754 /user/hadoop/test.txt ``` - 符号方式:使用符号 `u`、`g`、`o` 和 `a` 分别表示文件所有者、文件所属组、其他用户和所有用户,`+` 和 `-` 分别表示添加和删除权限,`r`、`w` 和 `x` 分别表示和执行权限。 例如,将文件 `/user/hadoop/test.txt` 的权限设置为所有用户都可取和执行,但只有文件所有者可入,可以使用以下命令: ```bash hadoop fs -chmod u+w,go=rx /user/hadoop/test.txt ``` 注意,如果要修改目录的权限,需要添加 `-R` 参数,以递归方式修改目录下的所有文件和子目录的权限。例如,将目录 `/user/hadoop/data` 及其子目录下的所有文件都设置为只权限,可以使用以下命令: ```bash hadoop fs -chmod -R a-w /user/hadoop/data ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值