![](https://img-blog.csdnimg.cn/direct/407fe882a6cf43379bcca6ef2f3127d5.jpeg?x-oss-process=image/resize,m_fixed,h_224,w_224)
大数据-分析
文章平均质量分 94
大数据分析工具hive、impala
临江蓑笠翁
前不见古人 后不见来者
展开
-
Impala-架构与设计
Impala是一款基于Hive的大数据分析查询引擎,直接使用Hive的元数据Metastore,因此如果使用Impala需要先安装Hive并启动Metastore服务。Impala不依赖MapReduce而是将执行计划树进行并行计算,使用拉的方式获取结果数据,把结果数据按执行树流是传递汇集,减少中间结果落盘。Impala是大数据进行实时交互式分析查询的一个工具,没有依赖MapReduce执行任务,而是将任务分配到各个Impala节点进行计算和汇总,从而避免了MapReduce的启动时间。原创 2024-02-12 20:16:46 · 1507 阅读 · 0 评论 -
Hive-架构与设计
支持通过SQL对数据仓库中数据进行访问,比如提取、转化、加工、分析等支持将不同数据格式添加数据结构可以直接访问大数据存储系统中的文件,比如HDFS、HBase等Hive是一个基于Hadoop的数仓分析工具,将分布式系统中的数据映射成结构化数据。提供丰富的SQL查询方式对数仓中的数据进行访问。一般不会存储数据、只会保存元数据到Hive中。Hive根据元数据信息将查询语句转化成执行计划,此执行计划由stage组成的DAG图,调用Hadoop中的MapReduce运行执行计划得到对应结果。原创 2024-02-10 23:16:00 · 2353 阅读 · 2 评论