cuda - 如何用 NVIDIA GPU 解释这个关于 `nvidia-smi` 的数字？

Question

我刚刚在安装了两个 K20m GPU 的服务器中运行了 simpleMultiGPU。然后运行 ​​nvidia-smi 命令来显示 GPU 的状态。结果如下:

问题如下:

1. GPU 内存使用情况似乎不一样。
2. 设备 1 的 Volatile GPU-Util 为 99%。

有什么建议吗？

Answer 1

1. 没有概念表明在多个 GPU 上运行应用程序时内存利用率必须相同。此外，内存使用率在应用程序的不同点可能会有所不同，具体取决于内存使用率采样发生时的底层事件(例如进行分配的时间点)。

2. 设备 1 的 volatile GPU 使用率可能表明应用程序和/或 nvidia-smi 正在导致设备 1 上的事件。

不清楚您为什么将这些称为问题。您正在监控设备上的事件。