分区和分桶都是为了便于查询,提高查询的效率
分区又可以动态分区和静态分区:动态分区只是不指定具体的列名值,不指定分区目录,由系统自己来定。 启动动态分区:set hive.exec.dynamic.partition=true;
insert overwrite table par_dnm partition(sex='man',dt)-----代表按sex静态分区,按dt动态分区,不指定到底是哪日,让系统自己分配决定
只有在创建表的时候是partition by ,其他都是partition
动态分区可以允许所有的分区列都是动态分区列,但是要首先设置一个参数hive.exec.dynamic.partition.mode :
set hive.exec.dynamic.partition.mode=nostrick;
分桶是通过对指定列进行哈希计算来实现的,通过哈希值将一个列名下的数据切分为一组桶,并使每个桶对应于该列名下的一个存储文件。
注意,hive使用对分桶所用的值进行hash,并用hash结果除以桶的个数做取余运算的方式来分桶,保证了每个桶中都有数据,但每个桶中的数据条数不一定相等。
索引和分区最大的区别就是索引不分割数据库,分区分割数据库。
索引其实就是拿额外的存储空间换查询时间,但分区已经将整个大数据库按照分区列拆分成多个小数据库了。
分区和分桶最大的区别就是分桶随机分割数据库,分区是非随机分割数据库。
因为分桶是按照列的哈希函数进行分割的,相对比较平均;而分区是按照列的值来进行分割的,容易造成数据倾斜。
其次两者的另一个区别就是分桶是对应不同的文件(细粒度),分区是对应不同的文件夹(粗粒度)。
注意:普通表(外部表、内部表)、分区表这三个都是对应HDFS上的目录,桶表对应是目录里的文件