cudaMalloc 总是内存不足

Question

我面临一个简单的问题，我对 cudaMalloc 的所有调用都失败了，给我一个内存不足错误，即使它只是我分配的一个字节。

cuda 设备可用，并且还有大量可用内存(机器人通过相应的调用进行检查)。

知道可能是什么问题吗？

Answer 1

请尝试在代码本身的开头调用 cudaSetDevice()、cudaDeviceSynchronize() 和 cudaThreadSynchronize()。

cudaSetDevice(0) 如果只有一个设备。默认情况下，CUDA 运行时将初始化设备 0。

cudaSetDevice(0);
cudaDeviceSynchronize();
cudaThreadSynchronize();

请回复您的观察。如果仍然失败，请指定操作系统、架构、CUDA SDK 版本、CUDA 驱动程序版本。如果可能，请提供失败的代码/代码片段。