Tornado的多进程管理分析

Tornado的HTTPServer是单进程单线程模式,同时提供了创建多进程服务器的接口,具体实现是在主进程启动HTTPServer时通过process.fork_processes(num_processes)产生新的服务器子进程,所有进程之间共享端口。
Tornado的多进程管理我们可以参看process.py这个文件。

    global _task_id
    assert _task_id is None
    if num_processes is None or num_processes <= 0:
        num_processes = cpu_count()
    gen_log.info("Starting %d processes", num_processes)
    children = {}
    
def cpu_count() -> int:
    """Returns the number of processors on this machine."""
    if multiprocessing is None:
        return 1
    try:
        return multiprocessing.cpu_count()
    except NotImplementedError:
        pass
    try:
        return os.sysconf("SC_NPROCESSORS_CONF")  # type: ignore
    except (AttributeError, ValueError):
        pass
    gen_log.error("Could not detect number of processors; assuming 1")
    return 1

在没有传入进程数或者进程数<=0时,默认使用cpu个数作为将要生成的进程个数。

    def start_child(i: int) -> Optional[int]:
        pid = os.fork()
        if pid == 0:
            # child process
            _reseed_random()
            global _task_id
            _task_id = i
            return i
        else:
            children[pid] = i
            return None

这是一个内函数,作用就是生成子进程。它同时返回两种状态,os.fork()创建了子进程,如果子进程创建成功,返回子进程pid。子进程本身创建成功,返回自己的状态码,为0.
如果pid==0表示cpu已经切换到子进程,else 则表示还在父进程中工作。

  for i in range(num_processes):
        id = start_child(i)
        if id is not None:
            return id

if id is not None表示如果我们在刚刚生成的那个子进程的上下文里面,那么就什么都不干,直接返回子进程的任务id就好了。如果还在父进程的上下文的话那么就继续生成子进程。

 num_restarts = 0
    while children:
        pid, status = os.wait()
        if pid not in children:
            continue
        id = children.pop(pid)
        if os.WIFSIGNALED(status):
            gen_log.warning(
                "child %d (pid %d) killed by signal %d, restarting",
                id,
                pid,
                os.WTERMSIG(status),
            )
        elif os.WEXITSTATUS(status) != 0:
            gen_log.warning(
                "child %d (pid %d) exited with status %d, restarting",
                id,
                pid,
                os.WEXITSTATUS(status),
            )
        else:
            gen_log.info("child %d (pid %d) exited normally", id, pid)
            continue
        num_restarts += 1
        if num_restarts > max_restarts:
            raise RuntimeError("Too many child restarts, giving up")
        new_id = start_child(id)
        if new_id is not None:
            return new_id

上面这段代码都是在父进程进行的。pid, status = os.wait()的意思是等待任意子进程退出或者结束,这时候我们就把它从我们的children表里面去除掉,然后通过status判断子进程退出的原因。
果子进程是因为接收到kill信号或者抛出exception了,那么我们就重新启动一个子进程,用的当然还是刚刚退出的那个子进程的任务号。如果子进程是自己把事情做完了才退出的,那么就算了,等待别的子进程退出吧。

if new_id is not None:

    return new_id

主要就是退出子进程的空间,只在父进程上面做剩下的事情,不然刚才父进程的那些代码在子进程里面也会同样的运行,就会形成无限循环了

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Flask和Tornado都是Python的Web框架,它们提供了一种方式来构建和部署Web应用程序。关于多进程的问题,这两个框架有一些不同的处理方式。 在Flask中,多进程可以通过使用WSGI服务器来实现。WSGI(Web Server Gateway Interface)是Python应用程序和Web服务器之间的通用接口。你可以使用像Gunicorn、uWSGI或者mod_wsgi这样的WSGI服务器来运行Flask应用程序,并配置它们以使用多个工作进程来处理并发请求。这样就可以充分利用系统资源,提高应用程序的性能和并发处理能力。 在Tornado中,它本身就是一个异步的Web服务器,基于单线程事件循环的模型。默认情况下,Tornado在单个进程中运行,并通过事件循环来处理并发请求。然而,Tornado也支持多进程部署。你可以使用Tornado提供的`tornado.process`模块来创建多个子进程,并在每个子进程中运行一个独立的Tornado实例。这样可以通过利用多个CPU核心来提高应用程序的并发处理能力。 需要注意的是,使用多进程部署时需要考虑共享资源的问题,例如数据库连接、缓存等。你需要确保在多个进程之间正确管理和同步这些资源,以避免冲突和数据不一致的问题。 总结来说,无论你选择使用Flask还是Tornado,都可以通过使用适当的服务器来实现多进程部署,从而提高应用程序的性能和并发处理能力。具体的实现方式会根据你选择的服务器和部署环境而有所不同。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值