python 多进程 调用模块内函数_进程创建fork()和multiprocessing模块Process类

一、进程VS程序

一个人穿上军装去打仗就是战士,战士需要武器、战场等资源。一个人去种田就是农民,农民需要土地、锄头等资源。

编写完毕的代码,安静的呆在磁盘上,称之为程序。代码要运行就得加载到内存,正在运行着的代码,就成为进程。进程需要运行环境比如内存空间。所以进程和程序是有区别的。

二、父进程子进程

一旦涉及多进程,就会涉及父进程子进程的概念。一个进程通常会有1个父进程,在其父进程内部会创建一个新的进程就称之为子进程。python的os模块可以查看当前进程号和父进程号。如下:

#‐*‐coding:utf‐8‐*‐

import os

print(os.getpid()) # 当前进程号

print(os.getppid()) # 父进程号

8612

3992

如果你在pycharm中运行这个脚本,当前进程就是你当前运行的脚本,父进程号指的是pycharm,不信你可以看看任务管理器来验证。

扩展知识(了解):

一个进程可能下属多个子进程,但最多只能有1个父进程,而若某一进程没有父进程,则可知该进程很可能由内核直接生成。在Unix与类Unix系统中,进程ID为1的进程(即init进程)是在系统引导阶段由内核直接创建的,且不会在系统运行过程中终止执行(可参见Linux启动流程);而对于其他无父进程的进程,则可能是为在用户空间完成各种后台任务而执行的。

三、进程的创建

1、fork()函数

import os

# 注意,fork函数,只在Unix/Linux/Mac上运行,windows不可以

pid = os.fork()

if pid == 0:

print('哈哈1')

else:

print('哈哈2')

1)程序执行到os.fork()时,操作系统会创建一个新的进程(子进程),然后复制父进程的所有信息到子进程中(直接把父进程的内存数据拿过来)。

2)然后父进程和子进程都会从fork()函数中得到一个返回值,在子进程中这个值一定是0,而父进程中是子进程的id号

在Unix/Linux操作系统中才有fork()系统函数,它有点特殊:

1)普通的函数调用,调用一次,返回一次,但是fork()调用一次,返回两次,因为操作系统自动把当前进程(称为父进程)复制了一份(称为子进程),然后,分别在父进程和子进程内返回。

2)子进程永远返回0,而父进程返回子进程的ID。

3)这样做的理由是,一个父进程可以fork出很多子进程,所以,父进程要记下每个子进程的ID,而子进程只需要调用getppid()就可以拿到父进程的ID。

import os

rpid = os.fork()

if rpid<0:

print("fork调用失败。")

elif rpid == 0:

print("我是子进程(%s),我的父进程是(%s)"%(os.getpid(),os.getppid()))

x+=1

else:

print("我是父进程(%s),我的子进程是(%s)"%(os.getpid(),rpid))

print("父子进程都可以执行这里的代码")

2、multiprocessing模块

Python是跨平台的,自然也提供一个跨平台的多进程支持。multiprocessing模块就是跨平台的多进程模块,可在Windows上使用。multiprocessing模块提供了一个Process类来创建一个进程对象。

# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process

import os

# 子进程要执行的代码

def run_proc(name):

print('子进程运行----,name= %s ,pid=%d...' % (name, os.getpid()))

if __name__=='__main__':

print('父进程 %d' % os.getpid())

p = Process(target=run_proc, args=('son',))# 指定函数创建进程,参数是元组类型

print('子进程将要执行')

p.start() #启动子进程

p.join() #让主进程等待子进程结束后再运行

print('主进程已结束')

父进程 10428

子进程将要执行

子进程运行----,name= son ,pid=7556...

主进程已结束

说明:

1)创建子进程需要为Process类传入一个指定的函数(函数可以有参数,具体要求见下文),即创建一个Process类的实例,用start()方法启动。

2)join()方法会阻塞主进程直到子进程执行完毕后再往下运行。如果不加join,就是如下效果,主进程比子进程先结束。

3)在windows上运行,一定要加if __name__=='__main__':,在linux或者mac则不必。

# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process

import os

# 子进程要执行的代码

def run_proc(name):

print('子进程运行----,name= %s ,pid=%d...' % (name, os.getpid()))

if __name__=='__main__':

print('父进程 %d' % os.getpid())

p = Process(target=run_proc, args=('son',))# 指定函数创建进程,参数是元组类型

print('子进程将要执行')

p.start() #启动子进程

# p.join() #注释掉join()

print('主进程已结束')

父进程 11184

子进程将要执行

主进程已结束

子进程运行----,name= son ,pid=8608...

Process类参数如下(中括号代表参数可以省略)

Process([group[,target[,name[,args[,kwargs]]]]])

1)target:表示这个进程实例指定的函数;

2)args:表示指定函数的位置参数元组;

3)kwargs:表示指定函数的关键字参数字典;

4)name:为当前进程名称;

5)group:大多数情况下用不到;

Process类常用方法:

1)is_alive():判断进程实例是否还在执行;

2)join([timeout]):是否等待该进程实例执行结束,或等待多少秒(同步阻塞的方法);

3)start():启动进程实例(创建子进程);

4)run():如果没有给定target参数,对这个对象调用start()方法时,就将执行对象中的run()方法;

5)terminate():强制终止进程(异步非阻塞的方法,发起了这个函数后,代码会继续往下执行而不会考虑终止进程这个事有没有做完);

Process类常用属性:

1)name:当前进程名字,默认为Process-N,N为从1开始递增的整数;

2)pid:当前进程的PID(进程号);

3)daemon:该属性用于判断或设置进程的后台状态。

# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process

import os

from time import sleep

# 子进程要执行的代码

def run_proc(name, age, **kwargs):

for i in range(10):

print('子进程运行中,name= %s,age=%d ,pid=%d...' % (name, age,os.getpid()))

print(kwargs)

sleep(3)

if __name__=="__main__":

print('父进程 %d.' % os.getpid())

p = Process(target=run_proc, args=('son',18), kwargs={"m":20})

print('子进程将要执行')

p.start()

print("子进程id {0}".format(p.pid))

sleep(1)

p.terminate()

p.join()

print('子进程早就被terminate了,根本没有循环输出10次')

父进程 8616.

子进程将要执行

子进程id 3820

子进程运行中,name= son,age=18 ,pid=3820...

{'m': 20}

子进程早就被terminate了,根本没有循环输出10次

# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process

import time

import os

# 两个子进程将会调用的两个方法

def worker_1(interval):

print("子进程worker_1,父进程id(%s),worker_1进程id(%s)"%(os.getppid(),os.getpid()))

t_start = time.time()

time.sleep(interval) # 程序将会被挂起interval秒

t_end = time.time()

print("子进程worker_1,执行时间为{0}秒".format(t_end - t_start))

def worker_2(interval):

print("子进程worker_2,父进程id(%s),worker_2进程id(%s)"% (os.getppid(),os.getpid()))

t_start = time.time()

time.sleep(interval)

t_end = time.time()

print("子进程worker_2,执行时间为{}秒".format(t_end - t_start))

if __name__ == "__main__":

# 输出当前程序的ID

print("进程ID:%s"%os.getpid())

"""

创建两个进程对象,target指向这个进程对象要执行的函数名,

args后面的元组中,是要传递给worker_1方法的参数,

因为worker_1方法就一个interval参数,这里传递一个整数2给它,

如果不指定name参数,默认的进程对象名称为Process-N,N为一个递增的整数

"""

p1=Process(target=worker_1,args=(1,))

p2=Process(target=worker_2,name="老王",args=(2,))

"""

使用"进程对象名称.start()"来创建并执行一个子进程,

这两个进程对象在start后,就会分别去执行worker_1和worker_2方法中的内容

"""

p1.start()

p2.start()

"""

同时父进程仍然往下执行,如果p2进程还在执行,将会返回True

"""

print("p2.is_alive=%s"%p2.is_alive())

# 输出p1和p2进程的别名和pid

print("p1.name=%s" % p1.name)

print("p1.pid=%s" % p1.pid)

print("p2.name=%s" % p2.name)

print("p2.pid=%s" % p2.pid)

"""

join括号中不携带参数,表示父进程在这个位置要等待p1进程执行完成后,再继续执行下面的语句,一般用于进程间的数据同步。

如果不写这一句,下面的is_alive判断将会是True。

在shell(cmd)里面调用这个程序时可以完整的看到这个过程,大家可以尝试着将下面的这条语句改成p1.join(1),

p2需要2秒以上才可能执行完成,父进程等待1秒很可能不等p2完全执行完成,

所以下面的print会输出True,即p2仍然在执行

这已经是多个进程了,电脑上所有进程由操作系统调度,整体环境的变化导致每次运行的结果可能有变化

"""

p1.join()

print("p1.is_alive=%s"% p1.is_alive())

print("p2.is_alive=%s"% p2.is_alive())

进程ID:7912

p2.is_alive=True

p1.name=Process-1

p1.pid=11640

p2.name=老王

p2.pid=8656

子进程worker_1,父进程id(7912),worker_1进程id(11640)

子进程worker_2,父进程id(7912),worker_2进程id(8656)

子进程worker_1,执行时间为1.0秒

p1.is_alive=False

p2.is_alive=True

子进程worker_2,执行时间为2.0秒

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值