memory-management - cudaFree() 之前是否需要 cudaDeviceSynchronize()？

Question

CUDA 版本 10.1。帕斯卡GPU。所有命令都发布到默认流:

void * ptr;
cudaMalloc(&ptr, ...);

launch_kernel<<<...>>>(ptr);

cudaDeviceSynchronize();     // Is this required?
cudaFree(ptr);

答案是否随 cudaMallocManaged() 改变？

Answer 1

一些 CUDA API 调用，例如 cudaMalloc()、cudaFree()、cudaHostAlloc()、设备到设备复制等，会更改 GPU 的虚拟内存地址映射。这些调用导致设备同步，因此您无需调用 cudaDeviceSynchronize()，因为它已经在同步。

cudaMallocManaged() 也会发生同样的情况。