luajit - Torch Cuda - 在两个 GPU 内核上生成两个进程

Question

当我运行时；

require 'cutorch'

在 lua 中，它会自动为我的 GPU 中的两个内核分配两个进程。例如，我在 nvidia-smi;

中得到以下输出

---------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID  Type  Process name                               Usage      |
|=============================================================================|
|    0                  Not Supported                                         |
|    1      6091    C   /home/msmith/torch/install/bin/qlua             98MiB |
|    2      6091    C   /home/msmith/torch/install/bin/qlua             99MiB |
+-----------------------------------------------------------------------------+

我希望能够控制进程在哪个 GPU 上进行。我试过了；

cutorch.setDevice(<Device Number>)

但这只会在 GPU 上创建更多进程。

谢谢。

Answer 1

您可以使用 CUDA_VISIBLE_DEVICES 环境变量控制您的进程在启动它之前将在哪个 GPU 上运行，例如仅在 CPU 0 上运行:

export CUDA_VISIBLE_DEVICES=0
luajit your-script.lua