使用GNU Parallel,您可以执行以下操作:
parallel analysis.C ::: *.txt
或者如果你有很多.txt文件:
printf '%s\0' *.txt | parallel -0 analysis.C
默认情况下,每个CPU线程运行一个作业.这可以使用-j20并行调整20个作业.
与parallel.moreutils-solution相反,您可以对输出进行后期处理:输出是序列化的,因此您永远不会看到两个作业混合的输出.
GNU Parallel是一种通用的并行化程序,可以在同一台机器上或在您具有ssh访问权限的多台机器上轻松并行运行作业.
如果要在4个CPU上运行32个不同的作业,并行化的一种直接方法是在每个CPU上运行8个作业:
GNU Parallel会在完成后生成一个新进程 – 保持CPU处于活动状态,从而节省时间:
安装
出于安全原因,您应该使用包管理器安装GNU Parallel,但如果没有为您的发行版打包GNU Parallel,则可以进行个人安装,这不需要root访问权限.这样做可以在10秒内完成:
(wget -O - pi.dk/3 || curl pi.dk/3/ || fetch -o - http://pi.dk/3) | bash
学到更多