Hadoop笔记三之Hdfs体系架构及各节点之间的Rpc通信

前言:

        Rpc协议就是Server实现一个声明了很多方法的接口并对外暴露此接口,Client通过调用此接口中声明的方法向server发送信息从而实现了与server的通信。

介绍:

        Hdfs是分布式部署的,分为nameNode,secondaryNameNode,dataNode,DFSClient四部分,每个节点之间都遵守RPC通信协议。

 

一:NameNode与DataNode通信,DatanodeProtocol

1:NameNode是DFS中的目录空间管理者,整个hdfs系统中只有一个NameNode节点,NameNode中存放了两张表

      第一张表存放文件名与数据块序列的对应关系,就是namenode节点中的fsimage文件。    

      第二张表存放的是数据块与machinelist的对应关系,此表是在程序运行时加载入内存中的。

2:NameNode实现了三个接口。

      org.apache.hadoop.hdfs.protocol.ClientProtocol

      org.apache.hadoop.hdfs.server.protocol.DatanodeProtocol

      org.apache.hadoop.hdfs.server.protocol.NamenodeProtocol 

3:DataNode用来存放数据块,可以有一个至多个DataNode。DataNode中存放一张数据块于字节流对应关系的表,终其一生他会不断的询问NameNode有什么任务需要完成,而NameMode不能直接联系DataNode他只能给DataNode返回一个简单的值。

4:DatanodeProtocol

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Hadoop体系架构是一个分布式系统,包括HDFS、MapReduce、YARN等组件。其中,HDFSHadoop分布式文件系统,是Hadoop体系架构中的核心组件之一。在使用Hadoop体系架构时,安全问题是非常重要的,特别是围绕HDFS的安全问题。以下是对HDFS安全问题进行分析: 1. 访问控制:HDFS默认情况下没有访问控制,任何人都可以访问其中的文件。因此,需要对HDFS进行访问控制,限制只有授权用户才能访问HDFS中的文件。可以使用Kerberos认证,将用户身份验证和授权结合起来,确保只有授权用户才能访问HDFS。 2. 数据加密:HDFS中的数据在传输和存储过程中需要进行加密,以保护数据的机密性。可以使用SSL/TLS协议对数据进行加密,确保数据传输过程中不会被窃听或篡改。同时,还可以使用AES或DES等加密算法对数据进行加密,确保数据在存储过程中不会被非法访问。 3. 安全审计:HDFS中的文件访问和操作都需要进行审计,以便及时发现安全问题。可以使用Hadoop审计日志,记录所有的文件访问和操作,包括用户身份、时间、访问方式等信息,以便对HDFS进行安全审计。 4. 防止拒绝服务攻击:HDFS中的数据节点可以被攻击者利用进行拒绝服务攻击,导致HDFS无法正常工作。因此,需要对HDFS进行防火墙设置,限制对HDFS的访问,并使用入侵检测系统对HDFS进行实时监控,及时发现和阻止攻击行为。 总之,HDFS作为Hadoop体系架构的核心组件,安全问题是非常重要的。需要对HDFS进行访问控制、数据加密、安全审计和防止拒绝服务攻击等措施,确保HDFS的安全性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值