MultiRunner说明文档
这是一个进程级别的python并行框架,可用于深度学习调参等任务,可通过 pip install MultiRunner 安装,开源于 https://github.com/Statham-stone/MultiRunner
注意,本包的使用极度简洁,原代码完全无需改动,使用本包的时候,包含import语句在内,仅需加入四行代码。
如果你遇到了以下问题之一,你可能需要这个包:
你是一个机器学习调参侠,你有多台共享硬盘的主机(节点,CPU,GPU,aws等),你需要以不同的参数运行一个函数多次,该函数针对每个参数返回一个结果(你可能想知道最好的那个结果所对应的参数,没错,我说的就是深度炼丹)。你想让这些主机并行地为你跑程序,但是你懒得手动一个个输入命令,且由于不同的主机运算能力不同,你不知道该如何为不同的节点分配不同的任务量,你不愿意坐在电脑前等着程序运行结束,也不想一个个手动输入命令
你有一台普通电脑,你需要以不同的参数运行一个函数多次并得到结果,你想尽力将其并行化,但是你不想学习Multiprocessing库
先看一个例子,你原来的代码可能是这样的:
# old_run.py