gpt4 book ai didi

linux - 通过绕过 GUI 节省 GPU 内存

转载 作者:塔克拉玛干 更新时间:2023-11-03 02:07:54 29 4
gpt4 key购买 nike

我有一台配备 2 Gb Nvidia GPU 的 Mac Book Pro。我正在尝试利用我所有的 GPU 内存进行计算(python 代码)。如果我绕过 GUI 界面并仅通过命令行访问我的机器,我可以节省多少。我想知道这样的事情是否会为我节省大量的 GPU 内存?

最佳答案

差异可能不会很大。

仅托管控制台显示的 GPU 通常只会在总内存大小中保留约 5-25 兆字节的内存。另一方面,托管 GUI 显示(使用 NVIDIA GPU 驱动程序)的 GPU 通常可能保留约 50 MB 或更多空间供显示使用(这可能会因所连接显示器的大小而有所不同)。

因此,您可以通过运行 nvidia-smi 并在运行 GUI 的情况下查看 GPU 的总内存和可用内存之间的差异,从而获得对节省的良好“估计”。例如,如果是 62MB,那么您可以通过关闭 GUI 来“恢复”大约 40-50MB,例如在 Linux 切换到运行级别 3 时。

我刚刚在配备 Quadro3000M 且恰好具有 2GB 内存的 Linux 笔记本电脑上运行了这个实验。在 X 显示器启动并加载 NVIDIA GPU 驱动程序的情况下,“已用”内存为 2047MB 中的 62MB(由 nvidia-smi 报告)。

当我切换到运行级别 3(X 未启动)时,内存使用量下降到大约 4MB。这可能意味着 CUDA 有大约 50MB 的额外可用空间。

关闭 GUI 的一个附带好处可能是消除 the display watchdog .

关于linux - 通过绕过 GUI 节省 GPU 内存,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/34829093/

29 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com