YupDB关联极速版(广播)

… 在YupDB中,能够像使用SQL一样实现两批数据的关联操作,取出两者之间通过某一字段进行关联的交集。这种取交集的方法有两种。
…第一种普通的方法是通过with as 的方式实现。例如
with a1 as (
/yupdb.sql(’->’)/select DATA_ID from datas where yup_partitions =‘20181114’ /(’<-’)sql.yupdb/
),
a2 as (
/yupdb.sql(’->’)/select v_64_y_string_ids as DATA_ID ,yupdb_view_name,yupdb_view_column from alltables where yup_partitions=‘20181114’ /(’<-’)sql.yupdb/
)
select a1.DATA_ID,a2.DATA_ID as a2ATA_ID,a2.yupdb_view_name,a2.yupdb_view_column from a1 LEFT JOIN a2 on (a1.DATA_ID=a2.DATA_ID) and a2.yupdb_view_name <>‘null’ limit 800 ;
通过这种方法能够取到两者的交集数据。但是,当两者的任何一个表数据达到几亿、几十亿时,这个时候数据的返回速度就会很慢。此SQL在查询时耗时20秒。

…第二种方式是通过广播实现快速取交集。例如
YBroadCastBlock@0000000001:10240:over_rand@
select DATA_ID from (select DATA_ID from data_tags where yup_partitions =‘20181114’ ) tmp
@YBroadCastBlock
with
a1 as (
select DATA_ID from datas where yup_partitions =‘20181114’ ),
a2 as (
select v_64_y_string_ids,yupdb_view_name,yupdb_view_column from alltables where yup_partitions =‘20181114’ and raw_query_s like ‘YBroadCastQuery@term@v_64_y_string_ids@0@{YBroadCastId:0000000001}’
)
select a1.DATA_ID,a2.v_64_y_string_ids as a2ATA_ID,a2.yupdb_view_name,a2.yupdb_view_column from a1 LEFT JOIN a2 on (a1.DATA_ID=a2.v_64_y_string_ids ) where a2.yupdb_view_column is not null limit 100 ;
…这种方法效率更高,相同的查询需求,此SQL用时0.6秒。

…为什么广播的查询效率比普通的查询效率快很多呢? 这便是YupDB针对关联业务场景进行的特定优化。
…在第一种普通查询中,需要将两个表的数据全部获取到(不管能不能匹配到),再去一一进行匹配。这个过程中,数据的读取,两批数据的关联都将消耗较多时间。
…而使用广播的方式中,第一步先使用广播拿到一部分我们想要的数据,关联字段必取(通过where条件进行过滤),这批数据一定在目标命中的结果集合内。第二步,将第一步拿到的数据作为条件放在第二步的查询语句内进行查询,这一步实际是在原有的where条件后面又加入了,新的条件(第一步的数据),对将要获取的数据进行了更精确的约束。第三步,第二步拿到数据后,在与第一步中用到的表全量数据进行关联,或得到最终数据。
当两个表有一个数据量较大时,第一步一定要作用在相对较小的表上。第二步一定要作用在相对较大的表上。这样效率是最高的。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值