hadoop HDFS 文件系统

  1. 存储极大数目的信息(terabytes or petabytes),将数据保存到大量的节点当中。支持很大单个文件。
  2. 提供数据的高可靠性,单个或者多个节点不工作,对系统不会造成任何影响,数据仍然可用。。
  3. 提供对这些信息的快速访问,并提供可扩展的方式。能够通过简单加入更多服务器的方式就能够服务更多客户端。
  4. HDFS是针对MapReduce设计的,使的数据尽可能根据其本地局部性进行访问与计算。

    HDPS 的特点
    .他适用于在分布式存储和处理。
    .Hadoop 提供的命令接口与 HDFS 进行交互。
    .名称节点和数据节点的帮助用户内置的服务器能够轻松检查集群的状态。
    .流式访问文件系统数据。
    .HDPS 提供了文件权限和验证。

HDFS 架构
这里写图片描述

名称节点-Namenade
名称节点是包含GUN/Linux 操作和软件名称节点的普通硬件。它是一个可以在商品硬件上运行的软件。具有名称节点系统作为主服务器,他执行以下任务:
1.管理文件系统命名空间
2.规范客户端对文件的访问。
3.它也执行文件操作系统,如重命名,关闭和打开文件和目录。


一般用户数据存储在HDFS文件。在一个文件系统中的文件将被划分为一个或多个段和/或存储在个人数据的节点。这些文件段被称为块。数据的HDFS可以读取或写入的最小被称为一个块。缺省的块大小为 64MB ,可以变更大小,需要更改HDFS配置来实现。

HDFS的目标
.故障检测和恢复:由于HDFS包括大量的普通硬件,部件故障频繁。因此HDFSy应该具有快速和自动故障检测和恢复机制。
.巨大的数据集:HDFS有数百个集群节点来管理庞大的数据集的应用程序。
.数据硬件:请求的任务,当计算机发生不久的数据可以高效的完成。涉及巨大的数据集特别是它减少了网络通信量,并增加了吞吐量。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
内容介绍 项目结构: Controller层:使用Spring MVC来处理用户请求,负责将请求分发到相应的业务逻辑层,并将数据传递给视图层进行展示。Controller层通常包含控制器类,这些类通过注解如@Controller、@RequestMapping等标记,负责处理HTTP请求并返回响应。 Service层:Spring的核心部分,用于处理业务逻辑。Service层通过接口和实现类的方式,将业务逻辑与具体的实现细节分离。常见的注解有@Service和@Transactional,后者用于管理事务。 DAO层:使用MyBatis来实现数据持久化,DAO层与数据库直接交互,执行CRUD操作。MyBatis通过XML映射文件或注解的方式,将SQL语句与Java对象绑定,实现高效的数据访问。 Spring整合: Spring核心配置:包括Spring的IOC容器配置,管理Service和DAO层的Bean。配置文件通常包括applicationContext.xml或采用Java配置类。 事务管理:通过Spring的声明式事务管理,简化了事务的处理,确保数据一致性和完整性。 Spring MVC整合: 视图解析器:配置Spring MVC的视图解析器,将逻辑视图名解析为具体的JSP或其他类型的视图。 拦截器:通过配置Spring MVC的拦截器,处理请求的预处理和后处理,常用于权限验证、日志记录等功能。 MyBatis整合: 数据源配置:配置数据库连接池(如Druid或C3P0),确保应用可以高效地访问数据库。 SQL映射文件:使用MyBatis的XML文件或注解配置,将SQL语句与Java对象映射,支持复杂的查询、插入、更新和删除操作。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值