大数据的技术生态：存储，计算，查询，挖掘

最新推荐文章于 2023-06-20 08:30:00 发布

面向bug编程

最新推荐文章于 2023-06-20 08:30:00 发布

阅读量338

点赞数

分类专栏：大数据

本文链接：https://blog.csdn.net/weixin_39466563/article/details/103611997

版权

1 篇文章 0 订阅

订阅专栏

参考网址：链接：https://www.zhihu.com/question/27974418/answer/156227565

链接：https://www.zhihu.com/question/21677041/answer/185664626

一、大数据包含的四个方面

存储，海量的数据怎样有效的存储？主要包括hdfs、Kafka；
计算，海量的数据怎样快速计算？主要包括MapReduce、Spark、Flink等；
查询，海量数据怎样快速查询？主要为Nosql和Olap，Nosql主要包括Hbase、 Cassandra 等，其中olap包括kylin、impla等，其中Nosql主要解决随机查询，Olap技术主要解决关联查询；
挖掘，海量数据怎样挖掘出隐藏的知识？也就是当前火热的机器学习和深度学习等技术，包括TensorFlow、caffe、mahout等；

Hadoop包括三大部分，分别是hdfs、MapReduce和hbase；

Hbase和Hive在大数据架构中处在不同位置，Hbase主要解决实时数据查询问题，Hive主要解决数据处理和计算问题，一般是配合使用。

一、区别：

Hbase： Hadoop database 的简称，也就是基于Hadoop数据库，是一种NoSQL数据库，主要适用于海量明细数据（十亿、百亿）的随机实时查询，如日志明细、交易清单、轨迹行为等。
Hive：Hive是Hadoop数据仓库，严格来说，不是数据库，主要是让开发人员能够通过SQL来计算和处理HDFS上的结构化数据，适用于离线的批量数据计算。

通过元数据来描述Hdfs上的结构化文本数据，通俗点来说，就是定义一张表来描述HDFS上的结构化文本，包括各列数据名称，数据类型是什么等，方便我们处理数据，当前很多SQL ON Hadoop的计算引擎均用的是hive的元数据，如Spark SQL、Impala等；
基于第一点，通过SQL来处理和计算HDFS的数据，Hive会将SQL翻译为Mapreduce来处理数据；

二、关系

在大数据架构中，Hive和HBase是协作关系，数据流一般如下：

关注

专栏目录