Hive严格模式

今天工作中被同事问到Hive严格模式三种禁止的查询。
记录一下吧：
开启hive严格模式命令：

// 查看当前严格模式的状态
set hive.mapred.mode;
// 设置为严格模式
set hive.mapred.mode=strict;
// 设置为非严格模式
set hive.mapred.mode=nostrict;

strict mode：
hive提供了一个严格模式，可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格
在严格模式下无法执行，通过设置hive.mapred.mode的值为strict，可以禁止以下3种类型的查询：

• 带有分区的表的查询
  如果在一个分区表执行hive，除非where语句中包含分区字段过滤条件来显示数据范围，否则不允许执行。换句话说，
  就是用户不允许扫描所有的分区。进行这个限制的原因是，通常分区表都拥有非常大的数据集，而且数据增加迅速。
  如果没有进行分区限制的查询可能会消耗令人不可接受的巨大资源来处理这个表：

SELECT DISTINCT(id) FROM User WHERE id=2;
FAILED: Error in semantic analysis: No Partition Predicate Found for Alias “User ” Table "User 

如下这个语句在where语句中增加了一个分区过滤条件（也就是限制了表分区）：

 SELECT DISTINCT(id) FROM User WHERE id=2 AND dt_date=20120101;
   ... normal results ...

• 带有orderby的查询
  对于使用了orderby的查询，要求必须有limit语句。因为orderby为了执行排序过程会讲所有的结果分发到同一个reducer中进行处理，强烈要求用户增加这个limit语句可以防止reducer额外执行很长一段时间：

SELECT * FROM User WHERE dt_date>2020 ORDER BY id;
FAILED: Error in semantic analysis: line 1:56 In strict mode,
limit must be specified if ORDER BY is present id

只需要增加limit语句就可以解决这个问题：

SELECT * FROM User WHERE dt_date>2020 ORDER BY id LIMIT 100000;
… normal results …

• 限制笛卡尔积的查询
  对关系型数据库非常了解的用户可能期望在执行join查询的时候不使用on语句而是使用where语句，这样关系数据库的执行优化器就可以高效的将where语句转换成那个on语句。but，hive不会执行这种优化，所以如果表足够大，那么这个查询就会出现不可控的情况像这样：

SELECT * FROM User JOIN Stu WHERE User.id= Stu.id;

FAILED: Error in semantic analysis: In strict mode, cartesian product
is not allowed. If you really want to perform the operation,
+set hive.mapred.mode=nonstrict+

下面这个才是正确的使用join和on语句的查询：

SELECT * FROM User JOIN Stu
  ON (User.id = Stu.id);
        ... normal results ...

总结：
开启后影响总结：
1、对分区表查询必须带分区条件，否则会查询失败
2、带orderby的查询，必须使用limit限制查询数据条数，否则会查询失败
3、不能进行笛卡尔积的查询
4、查询条件里面字段类型赋值时必须一致，比如日期分区dt字段类型为字符串，那么分区条件必须指定为dt=‘20160508’，而不能用dt=20160508
5、在生成动态分区时，会失败，需要单独设置为非严格模式