mysql多线程查询_MySQL 利用多线程提升查询性能的一种思路

本文探讨了在报表统计类查询中,通过将大查询拆分为多个子查询并利用多线程来提高MySQL查询性能的方法。尽管单个查询无法多线程执行,但通过自定义的Multi-thread-query引擎,可以实现近似n倍的性能提升。文中通过实例展示了如何将一个耗时3秒的查询优化到1.2秒,且保持查询结果一致。
摘要由CSDN通过智能技术生成

转载自:http://dinglin.iteye.com/blog/1432443

背景

报表统计类的查询是一类耗时的查询。使用场景是QPS并不大,单每个查询由于需要访问较多数据,对大量数据做处理,执行时间较长(通常秒级以上)。

分析

可以将一个大查询分成多个子查询,如果子查询需要访问的数据为整个查询的1/n,则可估计执行时间为1/n。但由于MySQL一个查询只能在单线程中执行,导致即使将一个大查询拆分成多个子查询,多个子查询执行后合并,需要时间为n*1/n=1,仍不能提升其性能。

问题的症结在于只能单线程执行。本方案提供一种引擎Multi-thread-query,让MySQL能够用多线程同时执行多个子查询。由于还要做一点合并工作,整个查询的时间将略大于n个子查询中查询时间最长的一个,即性能接近n倍。

最后一部分举了一个例子,n=3。

方案说明

1、图示

28000a28ca3ad14606a0cd69f85ddb72.png

2、用户对MTQ发起查询,MTQ拆分成多个子查询向实体表发起多线程查询。

3、MTQ等待全部线程执行完成后,可以在此基础上执行其他函数操作,如count、avg、group by等。

4、需要修改SQL查询格式,子查询如何拆分,由用户在查询里面指定。

5、适用于每个子查询都是计算量大,返回结果少的情况。(若返回结果越多,合并耗时越大)

举例

以一个统计查询需求为例(数据是构造的,木有神马泄密问题)

一个正常的查询如下:

70e8fe6439b4c7b4c836959335d4d9ad.png

查询结果:

77f4538b60cffa7ce1ce742562b3c298.png

相同机器上使用MTQ查询语法:

d271208d59d76981d47a7df6c9d2bf86.png

MTQ查询结果:

31f60b9125d4c47b82c03e5698843f10.png

可以看到,时间从3s减少为1.2s,查询结果相同,查询语句上可以直接做sum、group by操作。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值