python - 通过 ssh 连接在 Cuda 设备上使用 NumbaPro

Question

我正在使用 Python/NumbaPro 在 Windows 机器上使用我的 CUDA 兼容 GPU。我使用 Cygwin 作为 shell，并且在 cygwin 控制台中可以毫无问题地找到我的 CUDA 设备。我用简单的命令进行测试

    numbapro.check_cuda()

但是当我通过 OpenSSH 连接到盒子时(作为 Cygwin 设置的一部分)，我收到以下错误:

numba.cuda.cudadrv.error.CudaSupportError: Error at driver init:
Call to cuInit results in CUDA_ERROR_NO_DEVICE:

如何解决这个问题？

Answer 1

造成这种情况的主要原因是 Windows 服务 session 0 隔离。当您通过在 session 0 中运行的服务(例如 sshd 或 Windows 远程桌面)运行任何应用程序时，计算机的 native 显示驱动程序将不可用。对于 CUDA 应用程序，这意味着您在运行时会收到“无设备可用”错误，因为您用于登录的 sshd 正在作为服务运行，并且没有可用的 CUDA 驱动程序。

有一些解决方法:

1. 将 sshd 作为进程而不是服务运行。
2. 如果您有兼容的 GPU，请使用 TCC 驱动程序而不是 GPU 显示驱动程序。

关于第二个问题，您看到的 Python 运行时错误来自 multiprocessing 模块。来自 this question看来根本原因可能是未设置 NUMBER_OF_PROCESSORS 环境变量。您可以使用该线程中的解决方法之一来解决该问题