DDL就是建库建表、删库删表修改的语句;
库
1. 创建数据库
1.1 语法格式
CREATE DATABASE [IF NOT EXISTS] database_name
[COMMENT database_comment]
[LOCATION hdfs_path]
[WITH DBPROPERTIES (property_name=property_value, ...)];
(1)[LOCATION hdfs_path]
指定库数据存放在hdfs上的路径
(2)[IF NOT EXISTS]
(标准写法)避免要创建的数据库已经存在错误,增加if not exists判断。
(3)
创建一个数据库,指定数据库在HDFS上存放的位置
hive> create database if not exists db_hive2 location '/db_hive2';
2. 查询库 show
1)显示所有库
hive> show databases;
2)过滤显示查询的数据库
hive> show databases like 'db_hive*';
OK
db_hive
db_hive_1
3.查看数据库详情 desc
可以查看数据库所在的hdfs目录
1)显示数据库信息
hive> desc database db_hive;
OK
db_hive hdfs://hadoop102:9000/user/hive/warehouse/db_hive.db user1USER
2)显示数据库详细信息,extended
hive> desc database extended db_hive;
OK
db_hive hdfs://hadoop102:9000/user/hive/warehouse/db_hive.db user1USER
4.修改数据库 alter
用户只能为某个数据库的DBPROPERTIES设置键-值对属性值,来描述这个数据库的属性信息。其他元数据信息都是不可更改的,包括数据库名和数据库所在的目录位置。
hive (default)> alter database db_hive set \
dbproperties('createtime'='20170830');
5.删除数据库
1)删除空数据库
hive>drop database db_hive2;
如果删除的数据库不存在,最好采用 if exists判断数据库是否存在:
hive> drop database db_hive;
FAILED: SemanticException [Error 10072]: Database does not exist: db_hive
hive> drop database if exists db_hive2;
2)删除非空库
如果数据库不为空,可以采用cascade命令,强制删除
hive> drop database db_hive;
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. InvalidOperationException(message:Database db_hive is not empty. One or more tables exist.)
hive> drop database db_hive cascade;
表
1.创建表
CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name
[(col_name data_type [COMMENT col_comment], ...)]
[COMMENT table_comment]
[PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)]
[CLUSTERED BY (col_name, col_name, ...)
[SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]
[ROW FORMAT row_format]
[STORED AS file_format]
[LOCATION hdfs_path]
[TBLPROPERTIES (property_name=property_value, ...)]
[AS select_statement]
[LIKE table_name]
1.[EXTERNAL]
外部表
2.[IF NOT EXISTS]
3.[COMMENT col_comment]
跟在每个字段后面,字段描述信息
4.[COMMENT table_comment]
跟在表后面,表描述信息
5.[PARTITIONED BY
] 按照某些字段分区
6.[CLUSTERED BY (col_name, col_name, ...) [SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]
- 按照某些字段分桶
- SORTED BY不常用,对桶中的一个或多个列另外排序
7.[ROW FORMAT row_format]
ROW FORMAT
DELIMITED [FIELDS TERMINATED BY char] [COLLECTION ITEMS TERMINATED BY char]
[MAP KEYS TERMINATED BY char] [LINES TERMINATED BY char]
| SERDE serde_name [WITH SERDEPROPERTIES (property_name=property_value, property_name=property_value, ...)]
8.STORED AS
指定存储文件类型
- 常用的存储文件类型:SEQUENCEFILE(二进制序列文件)、TEXTFILE(文本)、RCFILE(列式存储格式文件)
- 如果文件数据是纯文本,可以使用STORED AS TEXTFILE。如果数据需要压缩,使用 STORED AS SEQUENCEFILE。
9.LOCATION
:指定表在HDFS上的存储位置。
10.AS
:后跟查询语句,根据查询结果创建表。
11.LIKE
:允许用户复制现有的表结构,但是不复制数据
2.内部表和外部表
2.1 管理表(内部表)
- 默认创建的表都是所谓的管理表,有时也被称为内部表。
- 这种表,Hive会(或多或少地)控制着数据的生命周期。Hive默认情况下会将这些表的数据存储在由配置项hive.metastore.warehouse.dir(例如,/user/hive/warehouse)所定义的目录的子目录下。
- 当我们删除一个管理表时,Hive也会删除这个表中数据。管理表不适合和其他工具共享数据。
2.2 外部表
- 外部表,Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据,不过描述表的元数据信息会被删除掉。
2.3 管理表和外部表的使用场景
每天将收集到的网站日志定期流入HDFS文本文件,在外部表(原始日志表)的基础上做大量的统计分析,用到的中间表、结果表使用内部表存储,数据通过SELECT+INSERT进入内部表。
在外部表做数据分析,将中间结果和结果表存入内部表
2.4 管理表与外部表的互相转换
(1)查询表的类型
hive (default)> desc formatted student;
Table Type: MANAGED_TABLE
(2)修改内部表student为外部表
alter table student set tblproperties('EXTERNAL'='TRUE');
(3)查询表的类型
hive (default)> desc formatted student;
Table Type: EXTERNAL_TABLE
(4)修改外部表student为内部表
alter table student set tblproperties('EXTERNAL'='FALSE');
(5)查询表的类型
hive (default)> desc formatted student;
Table Type: MANAGED_TABLE
注意:(‘EXTERNAL’=‘TRUE’)和(‘EXTERNAL’=‘FALSE’)为固定写法,区分大小写!
3. 修改表
3.1 重命名表
1)语法
ALTER TABLE table_name RENAME TO new_table_name
3.2 增加、修改和删除表分区
分区表的操作
3.3 增加/修改/替换列信息
(1)更新列
- 列名可以随意修改
- 列的类型只能小改大,不能大改小(遵循自动转换规则)
ALTER TABLE table_name CHANGE [COLUMN] col_old_name col_new_name column_type \
[COMMENT col_comment] [FIRST|AFTER column_name]
(2)增加和替换列
ALTER TABLE table_name ADD|REPLACE COLUMNS (col_name data_type [COMMENT col_comment], ...)
注:
- ADD是代表新增一字段,字段位置在所有列后面(partition列前)
- REPLACE则是表示替换表中所有字段,REPLACE使用的时候,字段的类型要跟之前的类型对应上,数量可以减少或者增加,其实就是包含了更新列,增加列,删除列的功能。
4. 删除表
hive (default)> drop table dept;
5. 清除表
注意:Truncate只能删除管理表,不能删除外部表中数据
hive (default)> truncate table student;