python 多进程执行任务

python 多进程执行任务

最近在写分布式优化, 想要实现简单的并行程序, 实现Parameter Server结构的一类sgd算法
看他们收敛性. 并行可以充分利用CPU/GPU资源, 加快训练. 对于一些简单的任务却有多个baseline, 我们就可以并行跑, 调试贼爽.
这里主要用到python中的Pipe来进行通讯

代码实现

from multiprocessing import *
from numpy import *

def f(conn):
    while True:
        res = conn.recv()
        if res is None:
            conn.close()
            break
        conn.send(res