Hadoop-HDFS的核心总结

本文详细介绍了Hadoop及其分布式文件系统HDFS,包括HDFS的核心思想——分而治之,以及副本存放策略、心跳机制和安全模式等核心设计。HDFS通过将大文件切分为多个块并备份,确保数据高可靠性。然而,它不适合小文件存储和细粒度操作,主要适用于大规模数据读取。此外,文章还讨论了HDFS的架构和启动时的安全模式,以及如何通过设置平衡集群负载。
摘要由CSDN通过智能技术生成


什么是Hadoop?

Hadoop是apache旗下的一款开源的软件平台。
Hadoop提供的功能:利用服务器集群,根据用户的业务逻辑,对海量数据进行分布式处理。
多个服务器进行并行计算,把最后的结果汇总。
在这里插入图片描述

  1. 集群
    多台服务器的方式,每台服务器可以【独自】完成工作。(可以自己完成工作,也可以分给别人一起做)
  2. 分布式
    多台服务器【共同】完成一个或多个工作。(必须多台机器一起完成)

Hadoop的主要组成:

  1. common:基础功能组件,提供基础功能服务(通信)
  2. HDFS:分布式文件系统
  3. YARN:资源调度系统
  4. MapReduce:分布式离线计算框架
    yarn调度资源给mapreduce进行作业,通过从hdfs调用数据(hdfs提供底层的存储数据)进行计算,都是需要common进行通信。
    在这里插入图片描述

什么是HDFS?

HDFS是hadoop的分布式文件系统,采用的是集群的方式来存储海量数据。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值