探索大数据分析和 Hadoop

1. 大数据

大数据 是指变得过大而无法通过传统方法操纵的数据集。这些方法包括在可承受的时间内对数据进行捕获、存储和处理。虽然术语大数据 曾被用作数据仓库概念,但它现在只专注于处理的容量、吞吐量和通用性的大规模处理架构。

2. 简介 Hadoop

Hadoop 是指在 Apache Project 下针对大规模分布式数据处理而开发的特定软件框架。它的设计支持高度可扩展的网络,该网络有数千个包含 PB 级数据的节点。Hadoop 最初是使用 Java™ 语言来设计的,但目前已经扩展到其他许多脚本语言。了解可与 Hadoop 配合使用的架构以及使用它们的效益。

3. 使用 Hadoop 解决问题

虽然 Hadoop 的灵感来自于 Google 的 MapReduce 使用模型,但 Hadoop 是一个通用的应用程序框架,可支持大量数据的处理。了解 Hadoop 在人工智能与 Apache Mahout 中的使用、使用了 Java 技术的 Hadoop,并结合使用 Hadoop 与 Dojo 工具包,以实现数据可视化。

4. 大数据和云计算

大数据分析和云几乎是一个完美的组合。能够灵活地配置分析作业所必需的处理节点的数量,同时仅为实际使用的节点进行付费,这是云计算所提供的实实在在的好处的典型示例。了解云中的 Hadoop 并为 Hadoop 优化云计算集群。

5. Hadoop 生态系统技术

Hadoop 本身不是一个产品,而是由多个软件产品组成的一个生态系统,这些软件产品共同实现全面功能和灵活的大数据分析。例如,通过可插入的作业调度程序,可以调整 Hadoop,(适用于小型或大型集群,包括多用户或交互式作业)。Hadoop 包含一些支持 Hadoop 体验的外部开源产品,比如 HBase、Pig 和 Hive。了解其他 Hadoop 技术和 Hadoop 软件生态系统。

6. 其他大数据分析解决方案

虽然 Hadoop 是著名的开源大数据分析解决方案,但其他一些解决方案也提供了大数据分析的变体,比如专注于内存中的集群计算的 Spark、LexisNexis 开源大数据分析解决方案,以及 IBM® BigSheets,它有助于从结构化和非结构化数据源收集数据,从而创建商业智能。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值