python 百万并发_Python-aiohttp百万并发 (下)

修改客户端代码如下：

# modified fetch function with semaphore import random import asyncio from aiohttp import ClientSession async def fetch(url):         async with ClientSession() as session:                async with session.get(url) as response:                            　delay = response.headers.get("DELAY")                            　date = response.headers.get("DATE")                            　print("{}:{} with delay {}".format(date, response.url, delay))                            　return await response.read()        　async def bound_fetch(sem, url):         # getter function with semaphore             async with sem:                     　await fetch(url)     async def run(loop,  r):             　url = "http://localhost:8080/{}"             　tasks = []             　# create instance of Semaphore             　sem = asyncio.Semaphore(1000)             　for i in range(r):                 　    # pass Semaphore to every GET request                     　    task = asyncio.ensure_future(bound_fetch(sem, url.format(i)))                     　    tasks.append(task)             　    responses = asyncio.gather(*tasks)             　    await responses number = 10000 loop = asyncio.get_event_loop() future = asyncio.ensure_future(run(loop, number)) loop.run_until_complete(future)

现在，我们可以处理10k链接了。这花去我们23s，同时返回了一些异常。不过不管怎样，相当不错的表现。

那100K呢？这个任务让我的机器很吃力，不过惊奇的是，它工作的很好。服务器的表现相当稳定，虽然内存占用很高，然后cpu占用一直维持在100%左右。让我觉得有趣的是，服务器占用的cpu明显小于client。这是ps的回显：

pawel@pawel-VPCEH390X ~/p/l/benchmarker> ps ua | grep python USER       PID %CPU %MEM    VSZ   RSS TTY      STAT START   TIME COMMAND pawel     2447 56.3  1.0 216124 64976 pts/9    Sl+  21:26   1:27 /usr/local/bin/python3.5 ./test_server.py pawel     2527  101  3.5 674732 212076 pts/0   Rl+  21:26   2:30 /usr/local/bin/python3.5 ./bench.py

最终因为某些原因，运行5分钟过后，它崩溃了。它生成了接近100K行的输出，所以很难定位traceback，好像某些响应没有正常关闭。具体原因不太确定。(client or server error)

一段时间的滚动以后，我找到了这个异常，在client日志中。

File "/usr/local/lib/python3.5/asyncio/futures.py", line 387, in __iter__           return self.result()  # May raise too.       File "/usr/local/lib/python3.5/asyncio/futures.py", line 274, in result           raise self._exception       File "/usr/local/lib/python3.5/asyncio/selector_events.py", line 411, in _sock_connect           sock.connect(address) OS  Error: [Errno 99] Cannot assign requested address

我不太确定这里发生了什么。我初始的猜测是测试服务器挂掉了。一个读者提出：这个异常的发生原因是操作系统的可用端口耗尽。之前我限制了并发连接数最大为1k，可能有些sockets仍然处在closing状态，系统内核无法使用才导致这个问题。

已经很不错了，不是吗？100k耗时5分钟。相当于一分钟20k请求数。

最后我尝试1M连接数。我真怕我的笔记本因为这个爆炸^_^.我特意将延迟降低为0到1s之间。最终耗时52分钟。

1913.06user 1196.09system 52:06.87elapsed 99%CPU (0avgtext+0avgdata 5194260maxresident)k 265144inputs+0outputs (18692major+2528207minor)pagefaults 0swaps

这意味着，我们的客户端每分钟发送了19230次请求。还不错吧？注意客户端的性能被服务器限制了，好像服务器端崩溃了好几次。

最后

如你所见，异步HTTP客户端相当强大。发起1M请求不是那么困难，同时相比同步模式，优势巨大。

我好奇对比其他的语言或者异步框架，其表现如何？可能在以后某个时候，我将对比Twisted Treq跟aiohttp。然后，其他的异步库(其他语言)能够支持到多少并发？比如：某些Java 异步框架？或者C++框架？或者某些Rust HTTP客户端？