流行的大数据技术

本文介绍了流行的大数据技术,重点聚焦于Hadoop生态系统,包括HDFS、YARN、MapReduce等核心模块,以及Ambari、Spark、HBase等周边项目。此外,还提到了其他大数据解决方案如Cloudera、Hortonworks和MapR。
摘要由CSDN通过智能技术生成

流行的大数据技术,涉及大数据处理的各个阶段,包括:架构,采集,存储,计算处理和可视化。我们下面对hadoop生态圈做下了解:

The hadoop includes these modules:

  • Hadoop Common: 为其他hadoop模块提供基础设施。
  • Hadoop Distributed File System
    (HDFS™): 一个高可靠、高吞吐量的分布式文件系统
  • Hadoop YARN: 一个新的MapReduce框架,任务调度与资源管理
  • Hadoop MapReduce: 一个分布式的离线并进行计算框架 ——分布式计算框架
  • Hadoop Ozone:
    生态圈的一款新的对象存储系统,可用于小文件和大文件存储

Other Hadoop-related projects at Apache include:

  1. Ambari™: 一种用于供应,管理和监控Apache Hadoop集群的基于Web的工具,其中包括对 Hadoop HDFS, Hadoop MapReduce, Hive, HCatalog, HBase, ZooKeeper, Oozie, Pig and Sqoop. Ambari还提供了一个用于查看集群运行状况的仪表板,例如热图以及以可视方式查看MapReduce,Pig和Hive应用程序以及以用户友好的方式诊断其性能特征的功能。.
  2. Avro™:数据序列化系统。
  3. Cassandra™:无单点故障的可扩展多主数据库。
  4. Chukwa™:管理大型分布式系统的数据收集系统
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值