gpt4 book ai didi

slurm - 如何使用不同的输入文件提交 slurm 作业数组

转载 作者:行者123 更新时间:2023-12-04 09:21:49 26 4
gpt4 key购买 nike

我有一个需要处理的文本文件列表(约 200 个文件)。所以我试图为此任务提交一个 slurm 作业数组,但我找不到解决方案。我尝试过的是通过循环遍历文件来提交多个作业(约 200 个作业)来完成一个任务。我确信有一种方法可以为这个问题创建作业数组,你能给我建议吗?
那是我的 bash 脚本

#!/bin/bash
input_list=$1
prefix=$2

readarray list < $input_list
a=0
for i in "${list[@]}"
do
file=$i
sbatch -a1-1 -- $PWD/kscript.sh $file $prefix"_"$a
a=`expr $a + 1`
done

最佳答案

我想出了解决方案,所以它比我想象的要简单,这里是:

#!/bin/bash
# Task name
#SBATCH -J myjob
# Run time limit
#SBATCH --time=4:00:00
# Standard and error output in different files
#SBATCH -o %j_%N.out.log
#SBATCH -e %j_%N.err.log
#SBATCH --ntasks=1
# Execute application code

input_list=$1
prefix=$2

readarray list < $input_list
file=${list[$SLURM_ARRAY_TASK_ID-1]}
input=$PWD"/"$file
output=$prefix"_"$SLURM_ARRAY_TASK_ID
./kscript.sh $input $output

关于slurm - 如何使用不同的输入文件提交 slurm 作业数组,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/63090916/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com