multithreading - 合并xargs parallel和mpirun

Question

我有一个在计算群集中运行的尴尬的并行(bash)脚本。
该脚本是Shell脚本，未链接到任何MPI库:这意味着我可以向其发送MPI等级的唯一方法是使用命令行参数。

到目前为止，我仅在单个节点内执行了该解决方案，解决方案很简单:

 #!/bin/bash
 #SBATCH --nodes=1
 N=16
 seq $N | xargs -P $N -I% my_script.bash % $N

如何用两个节点缩放它？如果我只使用'--nodes = 2'和 N=32，那么 xargs将尝试在同一节点上产生所有线程。另一方面，我不能单独使用 mpiexec:因为该脚本未链接到 MPI库，而且我不知道如何告诉脚本它是哪个线程。

Answer 1

您可以在提交脚本中使用srun来执行此操作:

seq $N | xargs -P $N -I% srun --exclusive -N1 my_script.bash % $N

这将使用 srun启动您的bash脚本并将其分发到已分配的CPU。