开篇
重要的视频链接在我的第一篇大数据笔记里面都已经更新了,关于环境的配置在后面的改版博客里面会陆续给出,现在新版本可能有些特性已经被修改了,但是基本思想还是在的,希望能够帮助自己记忆,也帮助大家去梳理HBase的基本知识点。话不多说,下面正式开始我们今天的博客内容。
内容提要
- HBase概述
- HBase访问接口
- HBase数据模型
- HBase的实现原理
- HBase运行机制
- HBase应用方案
- HBase编程实践
HBase概述
BigTable
BigTable是一个分布式存储系统
BigTable起初用于解决典型的互联网搜索问题
•建立互联网索引
1 爬虫持续不断地抓取新页面,这些页面每页一行地存储到BigTable里
2 MapReduce计算作业运行在整张表上,生成索引,为网络搜索应用做准备
•搜索互联网
3 用户发起网络搜索请求
4 网络搜索应用查询建立好的索引,从BigTable得到网页
5 搜索结果提交给用户
•BigTable是一个分布式存储系统
•利用谷歌提出的MapReduce分布式并行计算模型来处理海量数据
•使用谷歌分布式文件系统GFS作为底层数据存储
•采用Chubby提供协同服务管理
•可以扩展到PB级别的数据和上千台机器,具备广泛应用性、可扩展性、高性能和高可用性等特点
•谷歌的许多项目都存储在BigTable中,包括搜索、地图、财经、打印、社交网站Orkut、视频共享网站YouTube和博客网站Blogger等
HBase简介
HBase是一个高可靠、高性能、面向列、可伸缩的分布式数据库,是谷歌BigTable的开源实现,主要用来存储非结构化和半结构化的松散数据。 HBase的目标是处理非常庞大的表,可以通过水平扩展的方式,利用廉价计算机集群处理由超过10亿行数据和数百万列元素组成的数据表
关系数据库已经流行很多年,并且Hadoop已经有了HDFS和MapReduce,为什么需要HBase?
•Hadoop可以很好地解决大规模数据的离线批量处理问题,但是,受限于Hadoop
MapReduce编程框架的高延迟数据处理机制,使得Hadoop无法满足大规模数据实时处理应用的需求
•HDFS面向批量访问模式,不是随机访问模式
•传统的通用关系型数据库无法应对在数据规模剧增时导致的系统扩展性和性能问题(分库分表也不能很好解决)
•传统关系数据库在数据结构变化时一般需要停机维护;空列浪费存储空间
•因此,业界出现了一类面向半结构化数据存储和处理的高可扩展、低写入/查询延迟的系统,例如,键值数据库、文档数据库和列族数据库(如BigTable和HBase等)
•HBase已经成功应用于互联网服务领域和传统行业的众多在线式数据分析处理系统中
HBase和传统的数据库的对比
• HBase与传统的关系数据库的区别主要体现在以下几个方面:
• ( 1)数据类型:关系数据库采用关系模型,具有丰富的数据类型和存储方式,
HBase则采用了更加简单的数据模型,它把数据存储为未经解释的字符串
• ( 2