Hive常用hql语句(分桶和join操作)&&Hive自定义函数UDF和Transform

最新推荐文章于 2023-12-27 15:05:32 发布

peng_0129

最新推荐文章于 2023-12-27 15:05:32 发布

阅读量807

点赞数

分类专栏： Hive

本文链接：https://blog.csdn.net/peng_0129/article/details/80744699

版权

本文介绍了Hive中的分桶操作和JOIN操作，同时深入讲解了如何创建和使用自定义UDF，包括简单UDF的Java实现步骤、将jar包添加到Hive类路径、创建临时函数以及在HQL中应用UDF进行Json数据解析。

摘要由CSDN通过智能技术生成

show databases;
show tables;
desc test;

-------------
分桶表示例：

#创建分桶表
drop table stu_buck;
create table stu_buck(Sno int,Sname string,Sex string,Sage int,Sdept string)
clustered by(Sno)
sorted by(Sno DESC)
into 4 buckets
row format delimited
fields terminated by ',';

#设置变量,设置分桶为true, 设置reduce数量是分桶的数量个数
set hive.enforce.bucketing = true;
set mapreduce.job.reduces=4;

insert overwrite table student_buck
select * from student cluster by(Sno) sort by(Sage); 报错,cluster 和 sort 不能共存

#开会往创建的分通表插入数据(插入数据需要是已分桶, 且排序的)
#可以使用distribute by(sno) sort by(sno asc) 或是排序和分桶的字段相同的时候使用Cluster by(字段)
#注意使用cluster by 就等同于分桶+排序(sort)
insert into table stu_buck
select Sno,Sname,Sex,Sage,Sdept from student distribute by(Sno) sort by(Sno asc);

insert overwrite table stu_buck
select * from student distribute by(Sno) sort by(Sno asc);

insert overwrite table stu_buck
select * from student cluster by(Sno);

------------------------
保存select查询结果的几种方式：
1、将查询结果保存到一张新的hive表中
create table t_tmp
as
select * from t_p;

2、将查询结果保存到一张已经存在的hive表中
insert into table t_tmp
select * from t_p;

3、将查询结果保存到指定的文件目录（可以是本地，也可以是hdfs）
insert overwrite local directory '/home/hadoop/test'
select * from t_p;

insert overwrite directory '/aaa/test'
select * from t_p;

-----------