Hive分桶表

分桶表

分区提供一个隔离数据和优化查询的便利方式。不过，并非所有的数据集都可形成合理的分区。对于一张表或者分区，Hive 可以进一步组织成桶，也就是更为细粒度的数据范围划分。分桶是将数据集分解成更容易管理的若干部分的另一个技术。分区针对的是数据的存储路径;分桶针对的是数据文件。

1. 创建分桶表

create table stu_buck(id int, name string)
clustered by(id)
into 4 buckets
row format delimited fields terminated by '\t';

2. 创建分桶表

hive (default)> desc formatted stu_buck;
Num Buckets:          4

3. 导入数据到分桶表中

load 的方式
hive (default)> load data inpath '/student.txt' into table stu_buck;

insert 方式将数据导入分桶表
hive(default)>insert into table stu_buck select * from student_insert;

4.查看创建的分桶表中是否分成 4 个桶

5.查询分桶的数据

hive(default)> select * from stu_buck;

6. 分桶规则:

根据结果可知:Hive 的分桶采用对分桶字段的值进行哈希，然后除以桶的个数求余的方式决定该条记录存放在哪个桶当中

7. 分桶表操作需要注意的事项:

(1)reduce 的个数设置为-1,让 Job 自行决定需要用多少个 reduce 或者将 reduce 的个数设置为大于等于分桶表的桶数
(2)从 hdfs 中 load 数据到分桶表中，避免本地文件找不到问题
3)不要使用本地模式