182.Hive（四）：企业级调优：执行计划，fetch抓取，本地模式，表的优化，案例实操

目录

一、执行计划

二、Fetch 抓取

三、本地模式

四、表的优化

1.大表小表join

（1）开启mapJoin参数

（2）MapJoin工作机制

（3）使用实例

2.大表join大表

（1）空key过滤

（2）空key转换

（3）group by

（4）Count(Distinct) 去重统计

（5）行列过滤

3.合理设置 Map数量

（1）情景解析

（2）复杂文件增加 Map 数

（3）小文件进行合并

4.合理设置Reduce 数量

（1）调整 reduce 个数方法一

（2）调整 reduce 个数方法二

（3）reduce 个数并不是越多越好

5.并行执行

6.严格模式

（1）分区表不使用分区过滤

（2）使用 order by 没有 limit 过滤

（3）笛卡尔积

五、案例实操

1.需求描述

2.数据来源结构

3.数据库表准备

（1）创建表

 （2）向表中插入数据

（3）统计视频观看数 Top10

（4）统计视频类别热度 Top10

（5）统计出视频观看数最高的 20 个视频的所属类别以及类别包含Top20 视频的个数

（6）统计视频观看数 Top50 所关联视频的所属类别排序

（7）统计每个类别中的视频热度 Top10，以 Music 为例

（8）统计每个类别视频观看数 Top10

（9）统计上传视频最多的用户 Top10以及他们上传的视频观看次数在前 20 的视频

---

一、执行计划

关键字：EXPLAIN

explain extended select * from emp;
explain extended select deptno, avg(sal) avg_sal from emp group by deptno;

二、Fetch 抓取

Fetch 抓取是指，Hive 中对某些情况的查询可以不必使用 MapReduce 计算。例如：SELECT * FROM employees;在这种情况下，Hive 可以简单地读取 employee 对应的存储目录下的文件，然后输出查询结果到控制台。

在 hive-default.xml.template 文件中 hive.fetch.task.conversion 默认是 more，老版本 hive默认是 minimal，该属性修改为 more 以后，在全局查找、字段查找、limit 查找等都不走mapreduce。

三、本地模式

大多数的 Hadoop Job 是需要 Hadoop 提供的完整的可扩展性来处理大数据集的。不过，有时 Hive 的输入数据量是非常小的。在这种情况下，为查询触发执行任务消耗的时间可能会比实际 job