Hadoop简易知识理论

前言

    :Hadoop是基于Google的集群系统理论来进行的开源实现 
    :Google的集群系统:GFS. MapReduce. BigTable
    :Hadoop的集群系统:HDFS. MapReduce. Hbase

概述

     	Hadoop设计的初衷是为了解决Nutch的海量数据存储和处理的需求,可以解决大数据
     场景下的数据存储和处理的问题。一开始HDFS和MapReduce是作为Nutch的两个主件来 使用
     后来发现这两个组件不只是可以用在Nutch搜索,所以就单独取出来组成了Hadopp。

     注意的是:Hadoop处理是离线数据,即在数据已知以及不要求实时性的场景下使用。

最根本的原理

	 利用大量的计算机同时运算来加快大量数据的处理速度

优点

     一个Hadoop集群可以高效地存储数据,分配处理任务
     可以降低计算机的建造和维护成本
     一旦任何一个计算机出现硬件故障,不会对整个计算机系统造成致命的影响
     (因为面向应用层开发的集群框架本身就必须假定计算机会出现故障)

组成

  主要是由 HDFS 和 MapReduce 组成
	HDFS:用于分布式文件的存储(负责存储数据)
	MapReduce:用于数据的计算(负责对数据进行映射,规约处理,并汇总处理结果)
	
	Yarn:进行任务调度。

传统数据库的特点

    1.GB,TB级别的数据
 	2.数据增长不快
	3.主要为结构化的数据
	4.统计和报表

大数据的特点

	1.TB,PB级别的数据
	2.持续的高速增长
	3.半结构化,非结构化的数据
	4.数据挖掘的预测性分析
	5.海量和数据的获取,存储,聚合,管理这些数据以及
							对数据进行深度分析的新技术和新能力

Hadoop的安装

	单击方式
	伪分布式方式
	完全分布式方法
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值