<转>数据库连接池性能优化,连接数到底应该设置多大?

文章探讨了数据库连接池大小对性能的影响,指出连接数并非越大越好。通过压力测试,发现减少数据库连接池大小能显著提升性能,原因是减少了CPU上下文切换。总结了一个计算公式:连接数=(核心数*2)+有效磁盘数,建议根据服务器配置进行合理设置,以平衡CPU、磁盘和网络资源利用。对于SSD,由于其低延迟特性,连接数应更接近CPU核心数。
摘要由CSDN通过智能技术生成

1. 数据库连接数测试
        假如你有一个网站,压力有个1万上下的并发访问——也就是说差不多2万左右的TPS。那么这个网站的数据库连接池应该设置成多大呢?可能更正确的问法是:这个网站的数据库连接池应该设置成多小呢?下面请看一下这个测试视频 http://www.dailymotion.com/video/x2s8uec,(视频是英文解说且没有字幕,简单概括一下如下)

主题:视频中对Oracle数据库进行压力测试,9600并发线程进行数据库操作,每两次访问数据库的操作之间sleep 550ms

一开始设置的线程池大小为2048。每个请求要在连接池队列里等待33ms,获得连接后执行SQL(吞吐量)需要77ms

然后设置线程池大小为1024。能看到,中间件连接池从2048减半之后,连接池队列里等待事件没怎么变,但执行SQL耗时减少了一半。

接下来,设置线程池大小为96,并发线程数仍然是9600不变。连接池队列里等待事件几乎没了,吞吐量被优化到了2ms。查询性能得到了巨大提升!

没有调整任何其他东西,仅仅只是缩小了中间件层的数据库连接池,就把请求响应时间从77ms左右缩短到了2ms。 还有同样的案例:nginx只用4个线程发挥出的性能就大大超越了100个进程的Apache HTTPD。这是为什么呢?

2. 透过现象看原理
        从上面的测试,我们发现数据库连接数越小,性能越好。下面来探讨一下现象下的本质。

        即使是单核CPU的计算机也能“同时”运行数百个线程。但我们都知道这只不过是操作系统用时间分片玩的一个小把戏。一颗CPU核心同一时刻只能执行一个线程,然后操作系统切换上下文,核心开始执行另一个线程的代码,以此类推。给定一颗CPU核心,其顺序执行A和B永远比通过 时间分片“同时”执行A和B要快,因为顺序执行不需要上下文切换,上下文切换也是耗时的。这是一条计算机科学的基本法则。一旦线程的数量超过了CPU核心的数量,再增加线程数系统就只会更慢,而不是更快。

        上面的说法只能说是接近真理,但还并没有这么简单,有一些其他的因素需要加入。当我们寻找数据库的性能瓶颈时,总是可以将其归为三类:CPU、磁盘、网络。把内存加进来也没有错,但比起磁盘和网络,内存的带宽要高出好几个数量级,所以就先不加了。

        如果我们无视磁盘和网络,那么结论就非常简单。在一个8核的服务器上,设定连接/线程数为8能够提供最优的性能,再增加连接数就会因上下文切换的损耗导致性能下降。但数据库通常把数据存储在磁盘上,磁盘又通常是由一些旋转着的金属碟片和一个装在步进马达上的读写头组成的。它必须“寻址”到另外一个位置来执行另一次读写操作。所以就有了寻址的耗时,此外还有旋回耗时,读写头需要等待碟片上的目标数据“旋转到位”才能进行操作。在磁盘寻址这一时间段(即"I/O等待")内,线程是在“阻塞”着等待磁盘,此时操作系统可以将那个空闲的CPU核心用于服务其他线程。所以,由于线程总是在I/O上阻塞,我们可以让线程/连接数比CPU核心多一些,这样能够在同样的时间内完成更多的工作。

        那么让线程/连接数比CPU核心多多少呢?这要取决于磁盘。较新型的SSD不需要寻址,也没有旋转的碟片。可别想当然地认为“SSD速度更快,所以我们应该增加线程数”,恰恰相反,无需寻址和没有旋回耗时意味着更少的阻塞,所以更少的线程,更接近于CPU核心数会发挥出更高的性能。只有当阻塞创造了更多的执行机会时,更多的线程数才能发挥出更好的性能。

3. 如何合理设置数据库连接数
        明白了原理后,就可以合理的设置连接数来优化性能。

        计算公式:连接数 = (核心数 * 2) + 有效磁盘数

        按这个公式,你的4核i7数据库服务器的连接池大小应该为((4 * 2) + 1) = 9。取个整就算是是10吧。不要觉得太小,它能轻松搞定3000用户以6000TPS的速率并发执行简单查询的场景。如果连接池大小超过10,你会看到响应时长开始增加,TPS开始下降。因为随着连接数增多,cpu上下文切换频繁,增加请求耗时,而遵循这个公式,可以在当前线程进行IO阻塞时,适当的就行上下文切换,避免了切换频繁带来的耗时!*当然,这也不是一个万能公式,具体设置的值还需要进行实际压力测试才能决定!

        在上面Oracle的视频中,他们把连接数从2048降到了96,提升了大量想能。实际上96都太高了,除非服务器有16或32颗核心。

结论:尽量设置一个小的连接池,和一个充满了等待连接的线程的队列
-----------------------------------
©著作权归作者所有:来自51CTO博客作者知识分子_的原创作品,请联系作者获取转载授权,否则将追究法律责任
数据库连接池性能优化,连接数到底应该设置多大?
https://blog.51cto.com/u_15281317/3008763

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值