slurm : cannot allocate resources even when they are available

Question

我正在尝试在使用 SLURM 进行节点分配的集群上执行套接字编程代码。我使用 slurm 脚本如下:

#!/bin/bash
#SBATCH --job-name="abcd"
#SBATCH --ntasks=2
#SBATCH --nodes=2-2
#SBATCH --cpus-per-task=128
#SBATCH --partition=knl
./a.out

将此作为 sbatch 脚本运行时，出现错误“sbatch:错误:批处理作业提交失败:请求的节点配置不可用”。

但是，我确实看到一些节点满足上述配置。两个节点的 scontrol 输出如下所示:

NodeName=compute140 Arch=x86_64 CoresPerSocket=64
   CPUAlloc=20 CPUErr=0 CPUTot=256 CPULoad=20.01
   AvailableFeatures=knl
   ActiveFeatures=knl
   Gres=(null)
   NodeAddr=compute140 NodeHostName=compute140 Version=16.05
   OS=Linux RealMemory=96000 AllocMem=81920 FreeMem=102580 Sockets=1 Boards=1
   MemSpecLimit=1024
   State=MIXED ThreadsPerCore=4 TmpDisk=0 Weight=1 Owner=N/A MCS_label=N/A
   BootTime=2018-06-04T12:41:22 SlurmdStartTime=2018-06-04T12:47:01
   CapWatts=n/a
   CurrentWatts=0 LowestJoules=0 ConsumedJoules=0
   ExtSensorsJoules=n/s ExtSensorsWatts=0 ExtSensorsTemp=n/s


NodeName=compute141 Arch=x86_64 CoresPerSocket=64
   CPUAlloc=20 CPUErr=0 CPUTot=256 CPULoad=20.01
   AvailableFeatures=knl
   ActiveFeatures=knl
   Gres=(null)
   NodeAddr=compute141 NodeHostName=compute141 Version=16.05
   OS=Linux RealMemory=96000 AllocMem=81920 FreeMem=87441 Sockets=1 Boards=1
   MemSpecLimit=1024
   State=MIXED ThreadsPerCore=4 TmpDisk=0 Weight=1 Owner=N/A MCS_label=N/A
   BootTime=2018-06-04T12:46:37 SlurmdStartTime=2018-06-04T12:52:11
   CapWatts=n/a
   CurrentWatts=0 LowestJoules=0 ConsumedJoules=0
   ExtSensorsJoules=n/s ExtSensorsWatts=0 ExtSensorsTemp=n/s

当 slurm 应该为我分配请求的配置时，我不确定为什么我会收到错误消息。

我想在两个不同的 knl 节点上运行客户端-服务器应用程序，每个任务都是多线程的，每个任务有 128 个线程。

请帮忙，因为我尝试了几件事，但没有任何效果对我有用。

Answer 1

您没有明确指定每个 CPU 的内存要求，因此默认值适用。如果默认值大于 RealMemory/CPUTot ，在你的情况下 96000MB/128=750MB，那么任务不能保存在一个节点中。

因此，如果默认值为 4GB/CPU，并且您为每个节点请求一个任务，每个任务请求 128 个 CPU，那么您实际上为每个节点请求了 524GB 的 RAM，这是您的集群无法提供的。