python异步高并发_通过python异步通讯方式构建高并发压力测试工具

背景说明

在工作中，要对一个接口进行压测，我当时就想通过python自己编写一个压力发生器。

初步方案（单线程循环发送）

通过循环向服务端发送请求，代码如下：

#采用单步循环的方式循环测试

import requests,time

def run(runnum):

url = "https://api-test.peanut.ai/wechatGrant/load/test1?openId=RP0ulQ4pHDTBWt77ILCs02QGU&bsscode=8167871547864571"

for i in range(runnum):

str_res = requests.get(url)

if __name__ == "__main__":

start_time = time.time()

run(100)

end_time = time.time()

#print("循环次数：",str(counut))

print("开始时间：",str(start_time))

print("结束时间：",str(end_time))

print("运行时间：",str(end_time - start_time))

测试结果如下：

单线程

1

开始时间： 1536545804.5258229

结束时间： 1536545879.1070435

运行时间： 74.58122062683105

2

开始时间： 1536546027.6947124

结束时间： 1536546100.3893104

运行时间： 72.69459795951843

3

开始时间： 1536546205.2600951

结束时间： 1536546270.549498

运行时间： 65.28940296173096

4

开始时间： 1536546368.2361982

结束时间： 1536546435.7475684

运行时间： 67.51137018203735

5

开始时间： 1536546640.4913867

结束时间： 1536546712.5064435

运行时间： 72.015056848526

运行时间很长，对程序进行了分析，因为循环是单线程并且是同步的，发送请求后，必须等待收到响应，才会发送下一个请求，效率很低，并且循环对压力机的CPU资源消耗较大。

多线程方案

考虑通过多线程提高测试效率，代码如下：

import threading

import requests

import time

url = "https://api-test.peanut.ai/wechatGrant/load/test1?openId=RP0ulQ4pHDTBWt77ILCs02QGU&bsscode=8167871547864571"

def run_thread(snum,enum):

for i in range(snum,enum):

#s = requests.session()

#关闭长连接

headers = {'Connection': 'close'}

str_res = requests.get(url,headers=headers)

#从发送请求到收到响应消耗的时间，单位微妙。

etime = str_res.elapsed.microseconds/1000000

threads = []

for i in range(0,10):

#循环生成线程

t = threading.Thread(target=run_thread, args=(0,10))

threads.append(t)

if __name__ == "__main__":

start_time = time.time()

for dd in range(0,10):

#启动线程

threads[dd].start()

for dd in range(0,10):

threads[dd].join()

end_time = time.time()

print("开始时间：",str(start_time))

print("结束时间：",str(end_time))

print("运行时间：",str(end_time - start_time))

测试结果如下：

单线程

多线程（10）

1

开始时间： 1536545804.5258229

结束时间： 1536545879.1070435

运行时间： 74.58122062683105

开始时间： 1536546926.9662883

结束时间： 1536546935.9247773

运行时间： 8.958488941192627

2

开始时间： 1536546027.6947124

结束时间： 1536546100.3893104

运行时间： 72.69459795951843

开始时间： 1536546962.368912

结束时间： 1536546970.9876196

运行时间： 8.618707656860352

3

开始时间： 1536546205.2600951

结束时间： 1536546270.549498

运行时间： 65.28940296173096

开始时间： 1536546990.911677

结束时间： 1536547001.0316806

运行时间： 10.120003700256348

4

开始时间： 1536546368.2361982

结束时间： 1536546435.7475684

运行时间： 67.51137018203735

开始时间： 1536547021.2030604

结束时间： 1536547030.7051418

运行时间： 9.502081394195557

5

开始时间： 1536546640.4913867

结束时间： 1536546712.5064435

运行时间： 72.015056848526

开始时间： 1536547046.3298163

结束时间： 1536547054.6956365

运行时间： 8.365820169448853

测试效率有很大提高，但也存在问题，当启动线程较多时，压力机资源消耗大，在同一个线程内部，还是同步进行，效率较低。

异步通讯方案

asyncio可以实现单线程并发IO操作。如果仅用在客户端，发挥的威力不大。如果把asyncio用在服务器端，例如Web服务器，由于HTTP连接就是IO操作，因此可以用单线程+coroutine实现多用户的高并发支持。

#采用异步通讯的方式发压

import requests,time

import asyncio

from aiohttp import ClientSession

import aiohttp

url = "https://api-test.peanut.ai/wechatGrant/load/test1?openId=RP0ulQ4pHDTBWt77ILCs02QGU&bsscode=8167871547864571"

tasks = []

async def run():

async with ClientSession() as session:

async with session.get(url) as response:

response = await response.read()

#print(response)

if __name__ == "__main__":

loop = asyncio.get_event_loop()

start_time = time.time()

for i in range(100):

tasks.append(run())

end_time = time.time()

loop.run_until_complete(asyncio.wait(tasks))

loop.close()

#print("循环次数：",str(counut))

print("开始时间：",str(start_time))

print("结束时间：",str(end_time))

print("运行时间：",str(end_time - start_time))

测试结果：

单线程

多线程（10）

异步

1

开始时间： 1536545804.5258229

结束时间： 1536545879.1070435

运行时间： 74.58122062683105

开始时间： 1536546926.9662883

结束时间： 1536546935.9247773

运行时间： 8.958488941192627

开始时间： 1536565502.732898

结束时间： 1536565502.732898

运行时间： 0.0

2

开始时间： 1536546027.6947124

结束时间： 1536546100.3893104

运行时间： 72.69459795951843

开始时间： 1536546962.368912

结束时间： 1536546970.9876196

运行时间： 8.618707656860352

开始时间： 1536565502.732898

结束时间： 1536565502.732898

运行时间： 0.0

3

开始时间： 1536546205.2600951

结束时间： 1536546270.549498

运行时间： 65.28940296173096

开始时间： 1536546990.911677

结束时间： 1536547001.0316806

运行时间： 10.120003700256348

开始时间： 1536565502.732898

结束时间： 1536565502.732898

运行时间： 0.0

4

开始时间： 1536546368.2361982

结束时间： 1536546435.7475684

运行时间： 67.51137018203735

开始时间： 1536547021.2030604

结束时间： 1536547030.7051418

运行时间： 9.502081394195557

开始时间： 1536565502.732898

结束时间： 1536565502.732898

运行时间： 0.0

5

开始时间： 1536546640.4913867

结束时间： 1536546712.5064435

运行时间： 72.015056848526

开始时间： 1536547046.3298163

结束时间： 1536547054.6956365

运行时间： 8.365820169448853

开始时间： 1536565502.732898

结束时间： 1536565502.732898

运行时间： 0.0

性能大大提高，但还有一个需要优化的地方，tasks采用的是list,如果数量多了，会占用大量内存，下步进行优化。