gunicorn&&uwsgi

我通过阅读gunicorn、uwsgi 的代码得知，他们在单进程单线程下是和Werkzeug一样的。默认情况下，gunicorn会异步非阻塞的积攒tcp报文，通过http协议来解决tcp粘包的问题，当构建出一个完整http包，才会让这些worker来处理下一步的逻辑，也就是业务逻辑。 到此为止，我已经解释了 flask 使用Werkzeug epoll还是会发生阻塞的原因，也解释情况了gunicorn、uwsgi如何处理http请求 。

gunicorn、uwsgi遇到普遍的问题是502 504问题， 一说到502 ，我们知道后端处理过慢需要扩展worker，一说到504，我们知道处理超时，一般调整timeout就可以。那么502，504该问题的根本原因是什么？ socket 内部是有两个队列，一个syn队列，一个是accept队列，这两个队列都在accept()之间就有了。 backlog是syn和accept队列之和，当你后端处理不及时，backlog又到限制时，会出现502，也就是说新的客户端不能建立，因为没有syn的槽位供你三次握手。 504 就很好理解了，处理超时，中断处理，直接范围错误信息。

Uwsgi、gunicorn 应该如何做选择？ 这里需要注意的是 uwsgi http模式一定要慎用，这个rep req模式实在是奇葩呀。试想一想，linux做请求发起时，往大里说一共可以创建65535-1000的连接。Nginx通常是跟uwsgi一台服务器的，那么nginx收到一个请求时，会主动跟uwsgi建立连接，然后uwsgi跟worker又发起连接，那么连接数降到3w的理论值 。 又因为uwsgi转发了一个请求造成时间消耗。

uwsgi的功能是要比gunicorn丰富的多，通过丰富的配置参数就知道了。 但根据我几个项目的线上测试结果，gunicorn要比uwsgi稳定。 单笔性能的化，gevent性能是最好的。 推荐的配置是 unix domain socket、多进程、gevent协程池 组合。 线程池的方式不太推荐使用，pyhton的线程是内核的pthread线程，在繁多的线程数目下，对比协程的消耗可想而知。

Gevent worker 它提供了一种机制，让你可以监听到多个事件，epoll wait调用是阻塞的，但是可以设置超时事件，在超时事件内，如果有事件准备好就返回。比如采用epoll事件处理模型，当事件没准备好时，放到epoll里面，事件准备好了，我们就去读写，当读写返回EAGAIN时，我们将它再次加入到epoll里面。这样，只要有事件准备好了，我们就去处理它，当所有fd没有发生读写时，epoll才会阻塞等待。这样，我们就可以并发处理大量的并发了，当然，这里的并发请求，是指未处理完的请求，线程只有一个，所以同时能处理的请求当然只有一个了，只是在请求间进行不断地切换而已，切换也是因为异步事件未准备好，而主动让出的。工作流之间会产生切换的