linux - 通过绕过 GUI 节省 GPU 内存

Question

我有一台配备 2 Gb Nvidia GPU 的 Mac Book Pro。我正在尝试利用我所有的 GPU 内存进行计算(python 代码)。如果我绕过 GUI 界面并仅通过命令行访问我的机器，我可以节省多少。我想知道这样的事情是否会为我节省大量的 GPU 内存？

Answer 1

差异可能不会很大。

仅托管控制台显示的 GPU 通常只会在总内存大小中保留约 5-25 兆字节的内存。另一方面，托管 GUI 显示(使用 NVIDIA GPU 驱动程序)的 GPU 通常可能保留约 50 MB 或更多空间供显示使用(这可能会因所连接显示器的大小而有所不同)。

因此，您可以通过运行 nvidia-smi 并在运行 GUI 的情况下查看 GPU 的总内存和可用内存之间的差异，从而获得对节省的良好“估计”。例如，如果是 62MB，那么您可以通过关闭 GUI 来“恢复”大约 40-50MB，例如在 Linux 切换到运行级别 3 时。

我刚刚在配备 Quadro3000M 且恰好具有 2GB 内存的 Linux 笔记本电脑上运行了这个实验。在 X 显示器启动并加载 NVIDIA GPU 驱动程序的情况下，“已用”内存为 2047MB 中的 62MB(由 nvidia-smi 报告)。

当我切换到运行级别 3(X 未启动)时，内存使用量下降到大约 4MB。这可能意味着 CUDA 有大约 50MB 的额外可用空间。

关闭 GUI 的一个附带好处可能是消除 the display watchdog .