hivesql行转列和列转行

本文介绍了在数据库操作中如何使用SQL进行行转列和列转行的转换,包括字段值不变的情况和字段值分割的情况。通过示例展示了如何利用SUM(CASE...WHEN)、UNIONALL以及函数如collect_set(),collect_list(),split(),explode()等进行数据转换。

对于行专列和列转行,有两种不同的理解,这里将两中不同的理解都整理出来,供大家参考。

1. 字段值不发生改变,只是改变行列的分布

1.1. 行转列
  1. 有如下的一张成绩表tab_scores,每个人的成绩是按行存储的,要求每个人的成绩按列存储,即为行转列
namesubjectscore
TomMath85
TomChinese92
TomEnglish88
JackMath92
JackChinese86
JackEnglish70
KorryMath100
KorryChinese100
KorryEnglish90
  1. 转换sql如下:
select name,
	sum(case subject when 'Math' then score else 0 end) as Math,
	sum(case subject when 'Chinese' then score else 0 end) as Chinese,
	sum(case subject when 'English' then score else 0 end) as English
from tab_scores
group by name
  1. 查询结果如下:
nameMathEnglishChinese
Tom859288
Jack928670
Korry10010090
1.2. 列转行
  1. 数据如下
nameMathEnglishChinese
Tom859288
Jack928670
Korry10010090
  1. 转换sql如下:
select name,'Math',Math from tab_scores
union all
select name,'English',English from tab_scores
union all
select name,'Chinese',Chinese from tab_scores
  1. 查询结果如下
namesubjectscore
TomMath85
TomChinese92
TomEnglish88
JackMath92
JackChinese86
JackEnglish70
KorryMath100
KorryChinese100
KorryEnglish90

2. 字段值进行分割,形成新的行或者列

2.1. 行转列:把多行转成一列(多行变一行)
  1. 需要用的函数
  • collect_set()/collect_list()
    将一堆数据收集成数据集
    collect_set( )函数只接受基本数据类型,作用是对参数字段进行去重汇总,返回array类型字段;
    collect_list()函数和collect_set( )作用一样,只是前者不去重,后者去重。
  • concat_ws()
    concat_ws(‘,’,Array),第一个参数是连接符,第二个是数据集、将一个数据集的数据按照给定的符号连接成字符串
  1. 数据如下,,数据表为hobbyInfo
namehobby
roseeat
rosesleep
korrygame
korrybasketball
korryrun
  1. 转换sql:
select name,concat_ws(',',collect_set(hobby)) as hobby 
from hobbyInfo group by name
  1. 查询结果:
namehobby
roseeat,sleep
korrygame,baseketball,run
2.2. 列转行,把一列转成多行
  1. 需要用到的函数
  • split():
    将一个字符串按照指定字符分割,结果为一个array;
    split(str,‘,’),将字符串str按逗号进行分割得到一个数数组
  • explode():
    炸裂函数,将一列复杂的array或者map拆分为多行,它的参数必须为map或array;
    explode(arr) ,将数组arr拆分为多行的数据
  • lateral view:
    lateral view udtf(字段名)表别名/表临时名as列别名/列临时名。lateral view用于和split, explode等UDTF一起使用,它能够将一行数据拆成多行数据,在此基础上可以对拆分后的数据进行聚合。lateral view首先为原始表的每行调用UDTF,UTDF会把一行拆分成一或者多行,lateralview再把结果组合,产生一个支持别名表的虚拟表。
  1. 数据如下:表hobbyInfo
namehobby
roseeat,sleep
korrygame,baseketball,run
  1. 转换sql
select a.name,tabHobby.colHobby as hobby from hobbyInfo a
lateral view explode(split(a.hobby,',')) tabHobby as colHobby
-- tabHobby是侧视图的别名,colHobby是解析出来的字段名,#注意,as不能省略
  1. 查询结果如下
namehobby
roseeat
rosesleep
korrygame
korrybasketball
korryrun
### Hive SQL行转列转行的实现方法 #### 行转列 (Pivot) 在Hive SQL中,行转列通常通过`GROUP BY`语句配合聚合函数来完成。对于更复杂的场景,则可以利用内置函数如 `collect_set()` 或者 `concat_ws()`. 当需要将某中的不同值汇总成一行并以特定字符分隔时,可采用如下方式: ```sql SELECT id, CONCAT_WS(',', COLLECT_SET(value_column)) AS aggregated_values FROM table_name GROUP BY id; ``` 此查询会把表内相同ID下的value_column字段的不同取值收集起来形成一个由逗号分隔的字符串[^4]. #### 转行 (Unpivot) 针对转行为需求,Hive提供了专门用于展开数组或map类型的两个重要工具——`LATERAL VIEW` 结合 `EXPLODE` 及其变体 `POSEXPLODE`. - **Explode**: 将单个单元格内的复杂数据结构拆分成多条记录. 假设有一个包含多个标签的字符串表作为单一字段存储: ```sql SELECT t.id, e.tag FROM tags_table t LATERAL VIEW EXPLODE(SPLIT(t.tags, ',')) exploded_table AS e; ``` 上述命令将会依据逗号分割tags字段,并为每一个子项创建新的行. - **Posexplode**: 类似于explode功能但是额外返回元素的位置索引。 如果想要获取位置信息的话就可以这样写: ```sql SELECT t.id, p.pos, p.value FROM complex_data t LATERAL VIEW POSEXPLODE(array_field) posexpanded_table AS pos, value; ``` 为了进一步处理含有不确定层级的数据集,在某些情况下可能还需要嵌套使用这些操作以便达到预期效果[^3]. 同样地,如果面对的是已知固定数量级别的转换任务,则可以直接指定各级别的映射关系来进行变换[^2].
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值