HiveSQL分区的作用及创建分区表案例演示(图解)_hive 动态分区sql

具体来说，HiveSQL分区的作用包括以下几个方面：

1. 数据组织和管理：分区可以将数据按照特定的字段值进行组织和管理。通过将数据划分为更小的分区，可以更方便地进行数据的存储、查询和维护。

2. 查询性能优化：分区可以根据查询的条件过滤掉不满足条件的分区，从而减少需要扫描的数据量，提高查询的性能和效率。尤其是对于大规模数据集的查询，在使用分区时可以显著减少查询的时间。

3. 并行处理能力提升：分区可以将数据划分为更小的单元，从而提供更好的并行处理能力。在查询时，可以同时处理不同的分区，从而提高查询的并发性和整体的查询性能。

4. 存储空间优化：对于分区表，可以根据不同分区的特点选择不同的存储策略。例如，对于不经常查询的历史数据可以选择压缩存储，从而减少存储空间的占用。

5. 数据分析和统计：通过分区，可以更方便地进行数据分析和统计工作。例如，可以根据不同分区的数据分布情况，对不同分区的数据进行分析和处理，从而得到更精确的结果。

总的来说，HiveSQL分区的作用是提供更好的数据组织、查询性能优化、并行处理能力、存储空间优化以及数据分析和统计的功能，从而更高效地管理和查询大规模数据集。

---

二、单级分区表

1.准备工作

-- 创建数据库
create database if not exists game;

-- 切库
use game;

2.创建数据表

*2.1首先我们先创建一张未分区的数据表,以便后续与分区数据表做对比.*

-- 1. 建表.
create table t_all_hero(
    id            int comment 'ID',
    name          string comment '英雄',
    hp_max        int comment '最大生命',
    mp_max        int comment '最大法力',
    attack_max    int comment '最高物攻',
    defense_max   int comment '最大物防',
    attack_range  string comment '攻击范围',
    role_main     string comment '主要定位',
    role_assist   string comment '次要定位'
) comment '射手表'
row format delimited fields terminated by '\t';

*2.2上传(6个)源文件到该hive表的HDFS路径下*

3.查询数据

select * from t_all_hero;

3.1查询出所有的archer数据

select * from t_all_hero where role_main='archer';

*问:虽然我们实现了需求, 但是需要进行全表扫描, 如何精准的获取到我们想要的数据呢?*

*答:可以采用分区表的思路来管理, 把各个职业的数据放到不同的文件夹中即可*

4.创建分区数据表

-- 1. 创建分区表, 指定分区字段.
create table t_all_hero_part(
    id            int comment 'ID',
    name          string comment '英雄',
    hp_max        int comment '最大生命',
    mp_max        int comment '最大法力',
    attack_max    int comment '最高物攻',
    defense_max   int comment '最大物防',
    attack_range  string comment '攻击范围',
    role_main     string comment '主要定位',
    role_assist   string comment '次要定位'
) comment '角色表'
partitioned by (role string comment '角色字段-充当分区字段')  -- 核心细节: 分区字段必须是表中没有的字段.
row format delimited fields terminated by '\t';

*注意:分区字段必须是新的字段,表中没有的字段哦*

5.添加数据

5.1添加方式1:静态分区(需要指定分区字段和值)

load data local inpath '/export/hivedata/archer.txt' into table t_all_hero_part partition(role='sheshou');
load data local inpath '/export/hivedata/assassin.txt' into table t_all_hero_part partition(role='cike');
load data local inpath '/export/hivedata/mage.txt' into table t_all_hero_part partition(role='fashi');
load data local inpath '/export/hivedata/support.txt' into table t_all_hero_part partition(role='fuzhu');
load data local inpath '/export/hivedata/tank.txt' into table t_all_hero_part partition(role='tanke');
load data local inpath '/export/hivedata/warrior.txt' into table t_all_hero_part partition(role='zhanshi');

5.1.1此时HDFS中已已经根据我们的要求分好区

5.1.2我们再次查询archer所有的数据时就可以根据分区字段进行筛选,避免全表扫描,提高查询效率.

select * from t_all_hero_part where role='sheshou';

5.2添加方式2:动态分区(只需指定分区字段,分区字段相同的数据自动分配到同一个区)

*在进行动态分区前建议: 手动关闭严格模式*

set hive.exec.dynamic.partition.mode=nonstrict;

5.2.1创建分区表

-- 1. 创建分区表.
create table t_all_hero_part_dynamic(
    id            int comment 'ID',
    name          string comment '英雄',
    hp_max        int comment '最大生命',
    mp_max        int comment '最大法力',
    attack_max    int comment '最高物攻',
    defense_max   int comment '最大物防',
    attack_range  string comment '攻击范围',
    role_main     string comment '主要定位',
    role_assist   string comment '次要定位'
) comment '角色表'
partitioned by (role string comment '角色字段-充当分区字段')  -- 核心细节: 分区字段必须是表中没有的字段.
row format delimited fields terminated by '\t';

5.2.2动态分区方式添加数据

 *由于建表时增加一个role的分区字段,所以总共有9个普通字段和1个分区字段,所以插入数据时select语句中需要单独加上一个分区字段*

-- 2. 动态分区的方式, 添加数据.
insert into table t_all_hero_part_dynamic partition(role)
select *, role_main from t_all_hero;  -- role main字段做为分区字段使用

5.2.3查询分区表所有数据

-- 3. 查询分区表的数据.
select * from t_all_hero_part_dynamic;

5.2.4查询分区表中archer所有数据

![img](https://img-blog.csdnimg.cn/img_convert/82134777af257d355f74a8bec676cce9.png)
![img](https://img-blog.csdnimg.cn/img_convert/63eb2cb9c0476c87e6b040f70138ed72.png)
![img](https://img-blog.csdnimg.cn/img_convert/130779220eb6a692d821f62a9e9e8da9.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**

g-aK1C3hEk-1714234232993)]

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**