数仓工具—Hive动态分区(6)

本文介绍了Hive的动态分区功能,包括如何调整动态分区的属性,以及动态分区插入、动静分区结合的使用方法。动态分区在处理大量分区时能减少工作量,但需注意可能产生的小文件问题。在非strict模式下,可允许所有分区动态创建,但需谨慎防止产生过多分区。通过示例展示了动态分区插入数据的语法,强调了静态分区应位于动态分区之前。
摘要由CSDN通过智能技术生成

动态分区

前面我们学习了Hive 的分区分桶表,我们讲到了分区表中的分区字段可以是我们指定的字段——静态分区,也可以是数据表中的某些字段,这个怎么理解呢,例如我们有一个网站日志表,我们希望按照日志数据产生的时间将数据划分到不同的分区中去,而这个时候数据中的时间列就是我们的分区字段。

动态分区主要在我们需要插入数据到很多分区的时候使用,因为在静态分区的时候我们每次插入数据都需要指定一个分区,那么很多分区我们就需要写很多同样功能的插入sql,只是分区值不一样,例如让你将过去一年的数据按照时间以天为单位插入到分区表中去

动态分区调整

  • 动态分区属性:设置为true表示开启动态分区功能(默认为false)hive.exec.dynamic.partition=true;
  • 动态分区属性:设置为nonstrict,表示允许所有分区都是动态的(默认为strict)设置为strict,表示必须保证至少有一个分区是静态的hive.exec.dynamic.partition.mode=strict;
  • 动态分区属性:每个mapper或reducer可以创建的最大动态分区个数hive.exec.max.dynamic.partitions.pernode=100;
  • 动态分区属性:一个动态分区创建语句可
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不二人生

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值