SQL 一行转多行的处理方案

一. 背景和问题

  1. 背景:处理数据时,需要将一行中的某列数据根据分隔符转换到多行,为了实现该需求,找了一些解决方案,记录如下。
  2. 问题概述
  • 原数据
idtags
1a,b,c
2a,d
3b,c
  • 转换后数据
idtag
1a
1b
1c
2a
2d
3b
3c

二. MySQL中一行转多行

1. 技术点

  1. mysql自带表:mysql.help_topic
  2. sql的字符串函数:substring_index()
1.1 mysql.help_topic
  1. 概述:mysql.help_topic是数据库mysql的一个表,该表提供查询帮助主题给关键字的详细内容。
  2. 说明:一行转多行的这条sql语句其实跟help_topic表没有什么关系,仅仅是借用了help_topic表的help_topic_id的值为(0,1,2,…),因此在自己的数据库中建立一个仅含ID字段的表进行关联,同样可以实现一行转多行效果。
1.1 substring_index()函数
  1. 定义:按照分隔符截取字符串。
  2. 语法:SUBSTRING_INDEX(str, delimiter, count);
    • str:待截取的字符串
    • delimiter:分隔符。大小写敏感。
    • count:截取字符的位置
  3. 返回结果:返回str的一个子字符串,在 delimiter 出现 count 次的位置截取。
    1. 如果 count > 0,则从左边开始数,并且返回位置前的子串;
    2. 如果 count < 0,从则右边开始数,并且返回位置后的子串。
  4. 示例
SELECT SUBSTRING_INDEX(‘192,168,8,203’,’,’,1);
# 192
SELECT SUBSTRING_INDEX(‘192,168,8,203’,’,’,-1);
# 203
SELECT SUBSTRING_INDEX(SUBSTRING_INDEX(‘192,168,8,203’,’,’,2),’,’,-1);
# 168
SELECT SUBSTRING_INDEX(SUBSTRING_INDEX(‘192,168,8,203’,’,’,-2),’,’,1);
# 8
SELECT SUBSTRING_INDEX(‘192,168,8,203’,’,’,-1);
# 203

2. 一行转多行的实现:借助help_topic表

借助mysql的help_topic表:help_topic_id字段是从0开始编号的。

  1. 创建表
insert into tbl_product(id,product_name,tag) values(1,'学习机','少儿,中英,9门功课');
insert into tbl_product(id,product_name,tag) values(2,'小娃娃','毛绒绒,可爱,女生,小孩');
select * from tbl_product;
idproduct_nametag
1学习机少儿,中英,9门功课
2小娃娃毛绒绒,可爱,女生,小孩
  1. 一行转多行的实现
SELECT id,product_name,substring_index(substring_index( product.tag, ',', topic.help_topic_id + 1 ), ',',- 1 ) AS tag
FROM tbl_product product JOIN mysql.help_topic topic 
ON topic.help_topic_id < ( length( product.tag ) - length( REPLACE ( product.tag, ',', '' ) ) + 1 );
idproduct_nametag
1学习机少儿
1学习机中英
1学习机9门功课
2小娃娃毛绒绒
2小娃娃可爱
2小娃娃女生
2小娃娃小孩

3. 一行转多行的实现:不借助help_topic表

重点:不借助mysql的help_topic表,在自己的数据库建立一张辅助表(如tbl_auto_id表),只要从1开始的整数序列即可。

  1. 创建表
insert into tbl_product(id,product_name,tag) values(1,'学习机','少儿,中英,9门功课');
insert into tbl_product(id,product_name,tag) values(2,'小娃娃','毛绒绒,可爱,女生,小孩');
select * from tbl_product;
idproduct_nametag
1学习机少儿,中英,9门功课
2小娃娃毛绒绒,可爱,女生,小孩
  1. 创建表tbl_auto_id,只有id字段即可(代替help_topic表),并初始化数据(初始化的数据要大于分隔出的个数)
INSERT INTO tbl_auto_id(id) value(1);
INSERT INTO tbl_auto_id(id) value(2);
INSERT INTO tbl_auto_id(id) value(3);
INSERT INTO tbl_auto_id(id) value(4);
INSERT INTO tbl_auto_id(id) value(5);
select * from tbl_auto_id;
id
1
2
3
4
  1. 一行转多行的实现
SELECT product.id,product_name,substring_index(substring_index( product.tag, ',', auto.id ), ',',- 1 ) AS tag, auto.id
FROM tbl_product product JOIN tbl_auto_id auto 
ON auto.id <= ( length( product.tag ) - length( REPLACE ( product.tag, ',', '' ) )+1);
idproduct_nametagid
1学习机少儿1
1学习机中英2
1学习机9门功课3
2小娃娃毛绒绒1
2小娃娃可爱2
2小娃娃女生3
2小娃娃小孩4

三. odps/Hive中一行转多行

1. 技术点

  1. lateral view
  2. explode()
1.1 explode()内置函数
  1. 含义:它接收一个 array 或 map 类型的数据作为输入(通常需要用split函数生成数组),然后将 array 或 map 里面的元素按照每行的形式输出。一句话总结,就是将一行中复杂的array或者map结构拆分成多行。
  2. 使用示例
  • 原数据
myCol
[100,200,300]
[400,500,600]
  • 执行sql
SELECT explode(myCol) AS myNewCol FROM myTable;
  • 执行结果
myNewCol
100
200
300
400
500
600
1.2 lateral view
  1. 含义:lateral view用于与split、explode等UDTF(表生成函数)一起使用,能将一行数据拆分成多行数据,在此基础上可以对拆分的数据进行聚合。lateral view首先为原始表的每行调用UDTF,UDTF会把一行拆分成一行或者多行,lateral view在把结果组合,产生一个支持别名表的虚拟表。
  2. 用法说明:LATERAL VIEW udtf(expression) tableAlias AS columnAlias,可以将lateral view翻译为侧视图。
  3. 单个lateral view的使用示例
  • 原表table1
AB
1[11,12]
2[22,23]
  • 执行语句:select A,B from table1 lateral view explode(B) mytable as B;
  • 执行结果
AB
111
112
222
223
  1. 多个lateral view的使用示例:同时把第一列和第二列拆开,类似做笛卡尔乘积。
  • 原表
col1col2
[1,2][a,b]
[3,4][c,d]
  • 执行语句:
select mycol1, mycol2 from basetable
lateral view explode(col1) mytable1 as mycol1
lateral view explode(col2) mytable2 as mycol2;
  • 执行结果
mycol1mycol2
1a
1b
2a
2b
3c
3d
4c
4d

2. 一行转多行的实现

重点:借助lateral view 和explode()完成

  1. 创建表
insert into tbl_product(id,product_name,tag) values(1,'学习机','少儿,中英,9门功课');
insert into tbl_product(id,product_name,tag) values(2,'小娃娃','毛绒绒,可爱,女生,小孩');
select * from tbl_product;
idproduct_nametag
1学习机少儿,中英,9门功课
2小娃娃毛绒绒,可爱,女生,小孩
  1. 一行转多行
select id, product_name, tagP
from tbl_product
lateral VIEW EXPLODE(split(tag, ',')) myTable as tagP
idproduct_nametagP
1学习机少儿
1学习机中英
1学习机9门功课
2小娃娃毛绒绒
2小娃娃可爱
2小娃娃女生
2小娃娃小孩

参考资料

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值