arrays - 工作依赖于 SLURM 中的阵列工作

Question

我有两个作业脚本要提交给 SLURM，jobA.sh 和 jobB.sh。 jobA 是一个数组作业，我希望 jobB 仅在所有 jobA 完成后才开始。我的 jobA.sh 脚本是:

#!/bin/bash
#SBATCH -A TRIGWMS 
#SBATCH --mail-type=FAIL
# cores per task
#SBATCH -c 11
#
#SBATCH --array=%#combo#%%100
#SBATCH -J %#profile#%_%#freq#%
#
# number of nodes
#SBATCH -N 1
#
#SBATCH -t 0-2:00:00
# Standard output is saved in this file
#SBATCH -o myjob_%A_%a.out
#
# Standard error messages are saved in this file
#SBATCH -e myjob_%A_%a.err
#
# set the $OMP_NUM_THREADS variable
export OMP_NUM_THREADS=12
./myjobA_$SLURM_ARRAY_TASK_ID

这个作业脚本运行良好，但我似乎无法让 jobB 在它运行后运行。 jobB 具有以下脚本:

#!/bin/bash

#SBATCH -A TRIGWMS 
#SBATCH --mail-type=FAIL
# cores per task
#SBATCH -c 11
#
# number of nodes
#SBATCH -N 1
#SBATCH --ntasks=1

#SBATCH -J MESA
#SBATCH -t 0-2:00:00
# Standard output is saved in this file
#SBATCH -o myjob_%A_%a.out
#
# Standard error messages are saved in this file
#SBATCH -e myjob_%A_%a.err
#
# set the $OMP_NUM_THREADS variable
ompthreads=$SLURM_JOB_CPUS_PER_NODE
export OMP_NUM_THREADS=$ompthreads
./myjobB

此脚本也可以正常工作，但前提是先运行 jobA。为了尝试提交这两个作业，jobB 依赖于 jobA，我使用了以下脚本:

#!/bin/bash

FIRST=$(sbatch -p bigmem --mail-user=$USER@something.ac.uk jobA.sh)
echo $FIRST
SECOND=$(sbatch --dependency=afterany:$FIRST jobB.sh)
echo $SECOND

exit 0

但这仅提交第一个并带有错误'sbatch:错误:无法打开文件批处理'(我最初在那里有 -p bigmem --mail 等，但取出只是为了检查)。问题在于 --dependency 部分，一旦我删除所有这些都已提交，但我需要在 jobA 完成后开始 jobB。

Answer 1

您应该使用 --parsable 选项提交您的第一个作业。

FIRST=$(sbatch -p bigmem --mail-user=$USER@something.ac.uk --parsable jobA.sh)

否则， FIRST 变量包含类似于以下内容的字符串:

Submitted batch job 123456789

所以你的第二行在 Bash 变量扩展后看起来像这样:

SECOND=$(sbatch --dependency=afterany:Submitted batch job 123456789 jobB.sh)

所以 sbatch 实际上是试图找到一个名为 batch 的脚本并使用参数 job 123456789 jobB.sh 运行它。使用 --parsable 选项， sbatch 将仅以作业 ID 响应，并且您的线路应按原样工作。

如果您的集群运行的 Slurm 版本太旧，则 --parsable 选项可能不可用，在这种情况下，您可以遵循 this advice 。