Hive在操作表的时候默认用的就是静态分区,动态分区在填充数据的时候需要去判断分区,效率上比静态分区较有不足。
至于使用上,例如当前有一张mytable
表。
CREATE TABLE mytable
(
name STRING,
sex STRING
)
PARTITIONED BY (dt STRING)
ROW FORMAT DELIMITED FIELDS TERMINATED BY "\t";
静态分区
以静态分区的方式写入数据就需要直接通过partition (分区字段=分区值)
的方式指定一个分区
insert overwrite table mytable partition (dt='20150617') select ....
动态分区
想要使用Hive的动态分区就需要修改两个参数
set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict; #这个配置是当你没有任何静态分区字段时才需要配
这两个参数你可以在运行的语句前面增加,也可以去找找网上的hive-site的配置
使用动态分区在语句上其实和静态分区的区别就是在写语句的时候,不再为分区字段直接指定值,而是用变量的形式去代替,让分区随着数据的变化而变化
insert overwrite table mytable partition (dt) select ....
但是对于这个分区字段的名字你要注意,最好是保持一致,因为随着版本不同如果不一样的话,他会时灵时不灵的,比方说有如下两张表
表 a:字段 a1, a2, 分区字段 a3
表 b:字段 b1, 分区字段 b2
这个时候要通过b表的数据字段使用动态分区的方式往a表里插数据,那么你就要as分区字段名
INSERT INTO TABLE a PARTITION (a3)
SELECT
b.b1 AS a1, -- 假设b1的值应该插入到a1
NULL AS a2, -- 假设a2可以接受NULL值,或者你可以根据需要进行相应的处理
b.b2 AS a3 -- b2的值用作分区的值
FROM b
;