![951380e6d4c937b6f882bb01283bc605.png](https://i-blog.csdnimg.cn/blog_migrate/970fd9b7c65a4b7805a9faa6b28a4c29.jpeg)
原文链接:Python多核调用系统命令的方法及相应异常处理 | 西蒙宫博客
背景介绍
最近用python写了段代码,串行的形式如下,可是实在太慢。
def test_run():
global files_dir
for f1 in os.listdir(files_dir):
for f2 os.listdir(files_dir):
os.system("run program x on f1 and f2")
想提高速度,调用多核执行这个系统命令,相当于每个核都提交os.system('......')这样的任务。使用的模块是multiprocessing,之前知道里面的Pool非常好用,能自动跑满核,但尝试了一会发现使用map并不能实现并行,也不晓得原因是什么。使用某歌搜过发现已有大神在Stack Overflow进行了解读,链接在此。这里摘抄翻译记录一下,欢迎讨论。
不多说直接上代码。代码实现方式至少有两种,请看:
代码实现方式1:
import os
NUM_CPUS = None # defaults to all avail