19企业级调优1

一、Fetch抓取

1.定义

Fetch抓取是指，Hive中对某些情况的查询可以不必使用MapReduce计算。
例如select * from employees;在这种情况下，Hive可以简单地读
	取employee对应的存储目录下的文件，然后输出查询结果到控制台。

2.属性配置

在hive-default.xml.template文件中hive.fetch.task.conversion默认是more，
	老版本hive默认是minimal。
该属性修改为more以后，在全局查找、字段查找、limit查找等都不走mapreduce。
	<property>
		<name>hive.fetch.task.conversion</name>
		<value>more</value>
		<description>
			Expects one of [none, minimal, more].
			Some select queries can be converted to single FETCH task minimizing latency.
			Currently the query should be single sourced not having any subquery and should not have
			any aggregations or distincts (which incurs RS), lateral views and joins.
			0. none : disable hive.fetch.task.conversion
			1. minimal : SELECT STAR, FILTER on partition columns, LIMIT only
			2. more  : SELECT, FILTER, LIMIT only (support TABLESAMPLE and virtual columns)
		</description>
	</property>

3.实例

(1)把hive.fetch.task.conversion设置成none，然后执行查询语句，都会执行mapreduce程序。
	set hive.fetch.task.conversion=none;
	select * from emp;
	select ename from emp;
	select ename from emp limit 3;

(2)把hive.fetch.task.conversion设置成more，然后执行查询语句，都不会执行mapreduce程序。
	set hive.fetch.task.conversion=more;
	select * from emp;
	select ename from emp;
	select ename from emp limit 3;

二、本地模式

1.定义

	Hive可以通过本地模式在单台机器上处理所有的任务。
	对于小数据集，执行时间可以明显被缩短。

2.属性配置

设置hive.exec.mode.local.auto的值为true，来让Hive在适当的时候自动启动这个优化。

	set hive.exec.mode.local.auto=true;		
		//开启本地mr
		
	set hive.exec.mode.local.auto.inputbytes.max=50000000;
		//设置local mr的最大输入数据量，当输入数据量小于这个值时采
			用local mr的方式，默认为134217728，即128M
		
	set hive.exec.mode.local.auto.input.files.max=10;
		//设置local mr的最大输入文件个数，当输入文件个数小于这个值时
			采用local mr的方式，默认为4

3.实例

(1)开启本地模式，并执行查询语句
	set hive.exec.mode.local.auto=true;?
	select * from emp cluster by deptno;
	
(2)关闭本地模式，并执行查询语句
	set hive.exec.mode.local.auto=false;?
	select * from emp cluster by deptno;