1. 从BigTable 说起
解决google公司大规模搜索网页的问题。google公司通过BigTable 存储大量的网页。但现在很多都需要使用,不是使用磁盘进行存储。GFS
底层,完全非结构化数据。
Hbase 是BigTable 开源实现。
Mapreduce不能进行实时处理。数据爆炸式增长,传统型关系数据库处理有限,导致处理能力捉襟见肘。
关系型数据库一旦确定模式后,再去更改模式,就需要短暂的听觉操作,维护完后,在上线。
应用程序读出来来了,再去解释数据模型。
多表链接操作,效率低。在Hbase中避免了。完整性信息存在一张表里,避免了链接查找。
过了一定时间后,才会清楚旧的版本,新增一个新版本,生成一个时间戳。
数据仓库分析时:
Pig,写一条执行一条,类似于sql,比较适合做数据库统计。
Hive数据仓库,提供了Hive sql ,访问底层的Hbase中的数据。使用Hivesql ,执行复杂的多维数据分析功能,对很多企业来说非常关键。
列族,动态扩展,增加、删减等。
冗余存储,提高分析效率。
列族,基本单元,存到不同文件里。