HDFS中的集中缓存(Centralized Cache Management in HDFS)

本文介绍了HDFS中的集中缓存管理,包括缓存机制、集中式管理、用户交互方式以及NN和DN的角色。NN维护缓存路径列表,DN根据心跳协议缓存Blocks。管理员通过API与NN交互,控制缓存的添加、删除。缓存池有权限和配额限制,DN的最大锁定内存限制缓存大小。此外,还讨论了相关配置参数,如汇报间隔和缓存更新频率。
摘要由CSDN通过智能技术生成
集中缓存有两层概念:
  1. 第一层是缓存,即为存储在HDFS中文件提供缓存的机制,从而可以加速DFSClient对文件的读操作;
  2. 第二层概念是集中式的管理,传统的HDFS缓存依赖了OS本身的缓存机制,但是这种缓存机制不能被管理员或中央节点进行管理,不能自由的控制哪些文件缓存,哪些文件不进行缓存;集中式的管理可以提高了对缓存内存的可控性;
HDFS中集中缓存架构如下所示:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值