Hive表的静态分区和动态分区怎么用

Hive在操作表的时候默认用的就是静态分区,动态分区在填充数据的时候需要去判断分区,效率上比静态分区较有不足。

至于使用上,例如当前有一张mytable表。

CREATE TABLE mytable
(
    name STRING,
    sex STRING
)
PARTITIONED BY (dt STRING)
ROW FORMAT DELIMITED FIELDS TERMINATED BY "\t";

静态分区

以静态分区的方式写入数据就需要直接通过partition (分区字段=分区值)的方式指定一个分区

insert overwrite table mytable partition (dt='20150617') select ....

动态分区

想要使用Hive的动态分区就需要修改两个参数

set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict; #这个配置是当你没有任何静态分区字段时才需要配

这两个参数你可以在运行的语句前面增加,也可以去找找网上的hive-site的配置

使用动态分区在语句上其实和静态分区的区别就是在写语句的时候,不再为分区字段直接指定值,而是用变量的形式去代替,让分区随着数据的变化而变化

insert overwrite table mytable partition (dt) select ....

但是对于这个分区字段的名字你要注意,最好是保持一致,因为随着版本不同如果不一样的话,他会时灵时不灵的,比方说有如下两张表

表 a:字段 a1, a2, 分区字段 a3
表 b:字段 b1, 分区字段 b2

这个时候要通过b表的数据字段使用动态分区的方式往a表里插数据,那么你就要as分区字段名

INSERT INTO TABLE a PARTITION (a3)
SELECT
    b.b1 AS a1,   -- 假设b1的值应该插入到a1
    NULL AS a2,   -- 假设a2可以接受NULL值,或者你可以根据需要进行相应的处理
    b.b2 AS a3    -- b2的值用作分区的值
    FROM b
;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值