【Hive】（四）Hive DDL 数据定义语言详解_hive中不属于ddl语言(1)

最新推荐文章于 2024-11-06 17:41:23 发布
最新推荐文章于 2024-11-06 17:41:23 发布
阅读量545 收藏 21
点赞数 26
分类专栏： 程序员 文章标签： 大数据 面试 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_84616088/article/details/138684109
版权

img
img
img

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

需要这份系统化资料的朋友，可以戳这里获取

+ - [2.1 显示数据库](#21__24)
	- [2.2 查看数据库详情](#22__39)
	- [2.3 切换当前数据库](#23__57)
+ [三、修改数据库](#_62)
+ [四、删除数据库](#_76)
+ [五、创建表](#_98)
+ - [5.1 内部表](#51__149)
	- [5.2 外部表](#52__184)
	- [5.3 内部表与外部表的互相转换](#53__268)
+ [六、分区表](#_305)
+ - [6.1 分区表基本操作](#61__317)
	- [6.2 分区表注意事项](#62__416)
+ [七、修改表](#_508)
+ - [7.1 重命名表](#71__510)
	- [7.2 增加、修改和删除表分区](#72__524)
	- [7.3 增加/修改/替换列信息](#73__528)
+ [八、删除表](#_587)

一、创建数据库

1）创建一个数据库，数据库在HDFS上的默认存储路径是/user/hive/warehouse/*.db。

hive (default)> create database db_hive;

2）避免要创建的数据库已经存在错误，增加if not exists判断。（标准写法）

hive (default)> create database db_hive;
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. Database db_hive already exists
hive (default)> create database if not exists db_hive;

3）创建一个数据库，指定数据库在HDFS上存放的位置

hive (default)> create database db_hive2 location '/db\_hive2.db';

数据库存放位置如下：
在这里插入图片描述

二、查询数据库

2.1 显示数据库

1．显示数据库

hive> show databases;

2．过滤显示查询的数据库

hive> show databases like 'db\_hive\*';
OK
db_hive
db_hive_1
2.2 查看数据库详情

1．显示数据库信息

hive> desc database db_hive;
OK
db_hive		hdfs://hadoop102:9000/user/hive/warehouse/db_hive.db	atguiguUSER

2．显示数据库详细信息 extended

hive> desc database extended db_hive;
OK
db_hive		hdfs://hadoop102:9000/user/hive/warehouse/db_hive.db	atguiguUSER	
40.3.3 切换当前数据库
hive (default)> use db_hive;
2.3 切换当前数据库
hive (default)> use db_hive;

三、修改数据库

用户可以使用ALTER DATABASE命令为某个数据库的DBPROPERTIES设置键-值对属性值，来描述这个数据库的属性信息。数据库的其他元数据信息都是不可更改的，包括数据库名和数据库所在的目录位置。

hive (default)> alter database db_hive set dbproperties('createtime'='20170830');

在hive中查看修改结果

hive> desc database extended db_hive;
db_name comment location        owner_name      owner_type      parameters
db_hive         hdfs://hadoop102:8020/user/hive/warehouse/db_hive.db    atguigu USER    {createtime=20170830}

四、删除数据库

1．删除空数据库

hive>drop database db_hive2;

2．如果删除的数据库不存在，最好采用 if exists判断数据库是否存在

hive> drop database db_hive;
FAILED: SemanticException [Error 10072]: Database does not exist: db_hive
hive> drop database if exists db_hive2;

3．如果数据库不为空，可以采用cascade命令，强制删除

hive> drop database db_hive;
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. InvalidOperationException(message:Database db_hive is not empty. One or more tables exist.)
hive> drop database db_hive cascade;

五、创建表

1．建表语法

CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name 
[(col_name data_type [COMMENT col_comment], ...)] 
[COMMENT table_comment] 
[PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)] 
[CLUSTERED BY (col_name, col_name, ...) 
[SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS] 
[ROW FORMAT row_format] 
[STORED AS file_format] 
[LOCATION hdfs_path]

2．字段解释说明

（1）CREATE TABLE 创建一个指定名字的表。如果相同名字的表已经存在，则抛出异常；
                 用户可以用 IF NOT EXISTS 选项来忽略这个异常。

（2）EXTERNAL关键字可以让用户创建一个外部表，在建表的同时指定一个指向实际数据的路径（LOCATION），
            Hive创建内部表时，会将数据移动到数据仓库指向的路径；
            若创建外部表，仅记录数据所在的路径，不对数据的位置做任何改变。
            在删除表的时候，内部表的元数据和数据会被一起删除，而外部表只删除元数据，不删除数据。

（3）COMMENT：为表和列添加注释。

（4）PARTITIONED BY创建分区表

（5）CLUSTERED BY创建分桶表

（6）SORTED BY不常用

（7）ROW FORMAT 
DELIMITED [FIELDS TERMINATED BY char] [COLLECTION ITEMS TERMINATED BY char]
        [MAP KEYS TERMINATED BY char] [LINES TERMINATED BY char] 
   | SERDE serde_name [WITH SERDEPROPERTIES (property_name=property_value, property_name=property_value, ...)]

用户在建表的时候可以自定义SerDe或者使用自带的SerDe。
如果没有指定ROW FORMAT 或者ROW FORMAT DELIMITED，将会使用自带的SerDe。
在建表的时候，用户还需要为表指定列，用户在指定表的列的同时也会指定自定义的SerDe，Hive通过SerDe确定表的具体的列的数据。
SerDe是Serialize/Deserilize的简称，目的是用于序列化和反序列化。

（8）STORED AS指定存储文件类型
常用的存储文件类型：SEQUENCEFILE（二进制序列文件）、TEXTFILE（文本）、RCFILE（列式存储格式文件）
如果文件数据是纯文本，可以使用STORED AS TEXTFILE。如果数据需要压缩，使用 STORED AS SEQUENCEFILE。

（9）LOCATION ：指定表在HDFS上的存储位置。

（10）LIKE允许用户复制现有的表结构，但是不复制数据。
5.1 内部表

1．理论
默认创建的表都是所谓的管理表，有时也被称为内部表。因为这种表，Hive会（或多或少地）控制着数据的生命周期。Hive默认情况下会将这些表的数据存储在由配置项hive.metastore.warehouse.dir(例如，/user/hive/warehouse)所定义的目录的子目录下。 当我们删除一个管理表时，Hive也会删除这个表中数据。管理表不适合和其他工具共享数据。

2．案例实操
（1）普通创建表

create table if not exists student2(
id int, name string
)
row format delimited fields terminated by '\t'
stored as textfile
location '/user/hive/warehouse/student2';

（2）根据查询结果创建表（查询的结果会添加到新创建的表中）

create table if not exists student3 as select id, name from student;

（3）根据已经存在的表结构创建表

create table if not exists student4 like student;

（4）查询表的类型

hive (default)> desc formatted student2;
Table Type:             MANAGED_TABLE
5.2 外部表

1．理论
因为表是外部表，所以Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据，不过描述表的元数据信息会被删除掉。

2．内部表和外部表的使用场景
每天将收集到的网站日志定期流入HDFS文本文件。在外部表（原始日志表）的基础上做大量的统计分析，用到的中间表、结果表使用内部表存储，数据通过SELECT+INSERT进入内部表。

3．案例实操
分别创建部门和员工外部表，并向表中导入数据。
（1）原始数据

  dept.txt  emp.txt

（2）建表语句

创建部门表

create external table if not exists default.dept(
deptno int,
dname string,
loc int
)
row format delimited fields terminated by '\t';

创建员工表

create external table if not exists default.emp(
empno int,
ename string,
job string,
mgr int,
hiredate string, 
sal double, 
comm double,
deptno int)
row format delimited fields terminated by '\t';

（3）查看创建的表

hive (default)> show tables;
OK
tab_name
dept
emp

（4）向外部表中导入数据

导入数据

hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table default.dept;
hive (default)> load data local inpath '/opt/module/datas/emp.txt' into table default.emp;

查询结果

hive (default)> select \* from emp;
hive (default)> select \* from dept;

（5）查看表格式化数据

hive (default)> desc formatted dept;
Table Type:             EXTERNAL_TABLE

未被external修饰的是内部表（managed table），被external修饰的为外部表（external table）
区别：

内部表数据由Hive自身管理，外部表数据由HDFS管理；
内部表数据存储的位置是hive.metastore.warehouse.dir（默认：/user/hive/warehouse），外部表数据的存储位置由自己制定（如果没有LOCATION，Hive将在HDFS上的/user/hive/warehouse文件夹下以外部表的表名创建一个文件夹，并将属于这个表的数据存放在这里）；
删除内部表会直接删除元数据（metadata）及存储数据；删除外部表仅仅会删除元数据，HDFS上的文件并不会被删除；
对内部表的修改会将修改直接同步给元数据，而对外部表的表结构和分区进行修改，则需要修复（MSCK REPAIR TABLE
table_name;）

5.3 内部表与外部表的互相转换

（1）查询表的类型

hive (default)> desc formatted student2;
Table Type:             MANAGED_TABLE

（2）修改内部表student2为外部表

alter table student2 set tblproperties('EXTERNAL'='TRUE');

（3）查询表的类型

hive (default)> desc formatted student2;
Table Type:             EXTERNAL_TABLE

（4）修改外部表student2为内部表

alter table student2 set tblproperties('EXTERNAL'='FALSE');

（5）查询表的类型

hive (default)> desc formatted student2;
Table Type:             MANAGED_TABLE

注意：(‘EXTERNAL’=‘TRUE’)和(‘EXTERNAL’=‘FALSE’)为固定写法，区分大小写！

六、分区表

分区表实际上就是对应一个HDFS文件系统上的独立的文件夹，该文件夹下是该分区所有的数据文件。Hive中的分区就是分目录，把一个大的数据集根据业务需要分割成小的数据集。在查询时通过WHERE子句中的表达式选择查询所需要的指定的分区，这样的查询效率会提高很多。

  • 主要用于提高性能
      分区列的值将表划分为segments(文件夹)
      查询时使用“分区”列和常规列类似
      查询时Hive自动过滤掉不用于提高性能的分区
  • 分为静态分区和动态分区
6.1 分区表基本操作

1．引入分区表（需要根据日期对日志进行管理）

/user/hive/warehouse/log_partition/20170702/20170702.log
/user/hive/warehouse/log_partition/20170703/20170703.log
/user/hive/warehouse/log_partition/20170704/20170704.log

2．创建分区表语法

hive (default)> create table dept\_partition(
deptno int, dname string, loc string
)
partitioned by (month string)
row format delimited fields terminated by '\t';

3．加载数据到分区表中

hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201709');
hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201708');
hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201707’);

4．查询分区表中数据
单分区查询

hive (default)> select \* from dept_partition where month='201709';

多分区联合查询

hive (default)> select \* from dept_partition where month='201709'
              union
              select \* from dept_partition where month='201708'
              union
              select \* from dept_partition where month='201707';


![img](https://img-blog.csdnimg.cn/img_convert/f4b73367f801035e60095e61381cad91.png)
![img](https://img-blog.csdnimg.cn/img_convert/5d46ab967c1f58dc98a3de9f7c01d8d4.png)
![img](https://img-blog.csdnimg.cn/img_convert/94bc7dc37723275609ce91893266ddd1.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**

ere month='201709'
              union
              select \* from dept_partition where month='201708'
              union
              select \* from dept_partition where month='201707';


[外链图片转存中...(img-4WpurbnK-1715350462133)]
[外链图片转存中...(img-WA19aCiK-1715350462133)]
[外链图片转存中...(img-ywhSKwpE-1715350462133)]

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**
hive ddl语法使用详解
congge_study的博客
01-23 9063
hive ddl语法使用
Hive（5）：数据定义语言（DDL）
u013938578的博客
02-02 736
1.1 DDL语法的作用数据定义语言 (Data Definition Language, DDL)，是SQL语言集中对数据库内部的对象结构进行创建，删除，修改等的操作语言，这些数据库对象包括database（schema）、table、view、index等。核心语法由CREATE、ALTER与DROP三个所组成。DDL并不涉及表内部数据的操作。在某些上下文中，该术语也称为数据描述语言，因为它描述了数据库表中的字段和记录。1.2 Hive中DDL使用。
Hive数据定义语言（DDL）概述
weixin_48626604的博客
03-25 2164
Hive数据定义语言（DDL）概述 1.什么是DDL语言？ 数据定义语言 (Data Definition Language, DDL) 是SQL语言集中对数据库内部的对象结构进行创建，删除，修改等的操作语言，这些数据库对象包括database（schema）、table、view、index等。核心语法由CREATE、ALTER与DROP三个所组成。DDL并不涉及表内部数据的操作。 完整建表语法树 CREATE [TEMPORARY] [EXTERNAL] TABLE [IF NOT EXIS
Hive的DDL语言(一)
reddy_Hu的博客
07-20 167
显示系统所有数据库 show databases; +----------------+ | database_name | +----------------+ | db_doit | | default | | uu | +----------------+ 3 rows selected (0.108 seconds) 模糊显示数据库 hive> show databases like "db*"; OK db_doit T...
Hive-DDL详解（超详细）
zcs2312852665的博客
12-22 856
本教程将介绍HiveQL的数据定义语言（DDL），帮助您了解如何在Hive中创建数据库、切换数据库、创建表格以及查看和删除表格。通过学习这些基本操作，您可以更好地组织和管理数据，并进行高效的查询和分析。创建数据库是在Hive中组织和管理表的第一步。在本教程中，我们学习了一些重要的HiveQL DDL命令。首先，我们了解到如何使用CREATE DATABASE命令来创建新的数据库，并使用USE命令切换到指定的数据库。
Hive 数据定义语言（DDL)
Realoyou的博客
01-27 1263
DDL(Data Definition Language) HiveQL 语句可以通过hive官网进行全面细致学习，这里概述hive的DDL语言 Hive数据存储结构 1. Database:Hive中包含了多个数据库，默认的数据库为default，对应于HDFS目录是/user/hive/warehouse，可以通过hive.metastore.warehouse.dir参数进...
【Hive】（四）Hive DDL 数据定义语言详解_hive中不属于ddl语言(2)
2401_84166965的博客
05-03 662
2．每天将收集到的网站日志定期流入HDFS文本文件。在外部表（原始日志表）的基础上做大量的统计分析，用到的中间表、结果表使用内部表存储，数据通过SELECT+INSERT进入内部表。3．案例实操分别创建部门和员工外部表，并向表中导入数据。（1）原始数据（2）建表语句创建部门表创建员工表（3）查看创建的表（4）向外部表中导入数据导入数据查询结果（5）查看表格式化数据区别：内部表数据由Hive自身管理，外部表数据由HDFS管理；
大数据最新【Hive】（四）Hive DDL 数据定义语言详解_hive中不属于ddl语言，2024年最新腾讯后台开发
2401_84181501的博客
05-11 921
内部表数据存储的位置是hive.metastore.warehouse.dir（默认：/user/hive/warehouse），外部表数据的存储位置由自己制定（如果没有LOCATION，Hive将在HDFS上的/user/hive/warehouse文件夹下以外部表的表名创建一个文件夹，并将属于这个表的数据存放在这里）；在外部表（原始日志表）的基础上做大量的统计分析，用到的中间表、结果表使用内部表存储，数据通过SELECT+INSERT进入内部表。内部表数据由Hive自身管理，外部表数据由HDFS管理；
第2章 HiveSQL 数据定义语言（DDL）1
08-08
在本章中，我们将深入探讨HiveSQL的数据定义语言（DDL），这是大数据处理领域中一个至关重要的工具。DDL主要用于创建、修改和管理数据库中的结构，包括表、分区、索引等对象。理解并熟练掌握Hive的DDL对于任何在...
大数据学习：Hive数据定义语言.pdf
12-07
Hive 数据定义语言是一种用于定义数据表结构和数据库对象的语言，简称 DDL（Data Definition Language）。本文档将详细讲解 Hive 的数据定义语言（DDL），包括数据库的基本操作、数据表的基本操作、分区表、分桶表、...
Hive数据定义语言-DDL-建表基础语法（含四个实践案例）
Kox_233的博客
11-21 1198
Hive-DDL入门基础
Hive DDL数据定义语言
扛麻袋的少年的博客
05-25 712
五、1.创建数据库 Ⅰ.建库语句 Ⅱ.查询数据库 1.查看已有的数据库 2.使用数据库 3.显示数据库信息 Ⅲ.修改数据库dbproperties属性 Ⅲ.删除数据库 1.删除空数据库 2.删除非空数据库，采用 cascade 命令强制删除 2.创建表 Ⅰ.建表语句 Ⅱ.内部表 & 外部表 1.内部表(管理表)和外部表区别 2.何时用内部表(管理表)？何时用外部表？ 3.内部表和外部表的转换 Ⅲ.show 查看已有表的建表语句 Ⅳ.修改表 1.重命名 2.增加、修改、删除分区 3.增加、修改、替换列信息
【零基础小白】 window环境下安装RabbitMQ
许苑向上
11-06 306
RabbitMQ是用编写的，因此在安装RabbitMQ之前，需要先安装Erlang环境。确定Erlang版本：根据具体需求以及安装符合的Erlang版本。本文下载的故而下载Erlang版本之间的，打开系统属性：右键点击“此电脑”或“计算机”图标，选择“属性”，然后点击“高级系统设置”。编辑环境变量：在“系统属性”窗口中，点击“环境变量”按钮。编辑Path变量：同样在“系统变量”区域，找到名为Path的变量并选择它，然后点击“编辑”按钮。
数据治理项目怎么做，3种推进思路可参考
esensoft123的博客
11-06 571
因此，即使有些人认为先建大数据平台而暂时无法实现业务支撑或应用分析是无效的，但实际上，在建设平台的过程中，企业的能力已经在逐步提升。因此，在做项目时，我们必须与最终用户达成一致，明确项目的定义和规划。先做数据治理顶层设计的规划，确定战略目标，进而拆解KPI，然后设立对应的支撑项目，并且根据优先级别进行排序，最后形成一个执行的路径，即每个阶段要建设的项目及其目标。这种方式的优点显而易见：它确保了项目有明确的规划和方向，从面到线，再到点，逐步落实，从而最大程度地保证了项目的成功，减少了无用功和重复建设。
大数据学习10之Hive高级
最新发布
qq_64407249的博客
11-06 1202
过程：创建Maven项目，导入依赖，创建方法类，并继承响应方法类实现方法类的方法生成jar包Hive导入自定义函数jar包重新加载函数。
使用 HuggingFace 提供的 Elasticsearch 托管交叉编码器进行重新排名
Elastic 中国社区官方博客
11-05 940
它是什么为什么要使用它如何创建推理 API 并将其连接到外部服务如何使用检索器查询进行重新排名什么是语义重新排名以及如何使用它？了解在搜索和 RAG 管道中使用语义重新排名的权衡使用检索器在 Elasticsearch 中进行语义重新排名本博客包含视频演示和入门所需的所有内容的概述。Elastic 文档 - 语义重新排名这个优秀的文档指南讨论了用例、编码器模型类型和 Elasticsearch 中的重新排名本博客和随附笔记本中的代码也将帮助你入门，但我们不会深入讨论是什么和为什么。
牛客网项目总结
qq_43539664的博客
11-04 292
下面这幅图是牛客网项目的架构图，最下层是Spring Boot，表示我们所有的技术都是基于Spring Boot，上面一层是Spring，Spring上面是Spring MVC、Spring MyBatis 和 Spring Security。数据库访问的问题，通过Spring Security来管理我们项目中的安全层面的这个内容来管理我们项目中的权限，这三个技术都是基于Spring之上的。由Spring进行整合。通过Spring MVC 解决前后端请求交互的问题，通过Spring MyBatis解决。
Kafka-linux环境部署
xiaoyuanbama的博客
11-05 299
Kafka在Linux环境下的安装，以及一点点的kafka实战运维优化经验。
属于Hive SQL中DDL(数据定义语言)的是?
05-23
在 Hive SQL 中，以下语句属于 DDL（数据定义语言）： 1. CREATE TABLE：用于创建表。 2. DROP TABLE：用于删除表。 3. ALTER TABLE：用于更改表的结构，如添加、删除或更改表的列、更改表名称等。 4. TRUNCATE ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值