二维数组的 cudaMalloc 失败，错误代码 11

Question

我正在尝试在 CUDA 中实现一个二维数组，如下所示:

u_int32_t **device_fb = 0;
u_int32_t **host_fb = 0;

cudaMalloc((void **)&device_fb, (block_size*grid_size)*sizeof(u_int32_t*));

for(int i=0; i<(block_size*grid_size); i++)
{
    cudaMalloc((void **)&host_fb[i], numOpsPerCore*sizeof(u_int32_t));
}
cudaMemcpy(device_fb, host_fb, (block_size*grid_size)*sizeof(u_int32_t*), cudaMemcpyHostToDevice);

在测试中，host_fb 为 NULL。此外，当我获取 cudaMalloc((void **)&host_fb[i], numOpsPerCore*sizeof(u_int32_t)); 的第一次迭代的错误代码时，我得到了 cudaErrorInvalidValue。我究竟做错了什么？谢谢!

Answer 1

好吧，您的代码存在一些问题。查看下面代码中的注释。

在数组的大小中，您应该使用sizeof(u_int32_t) 而不是指针类型。很难发现错误，因为两种类型的大小在某些平台上可能意外地相同，但在其他平台上则不同。

size_t arr_size = (block_size*grid_size) * sizeof(u_int32_t);

// host array wasn't allocated at all.
host_fb = malloc(arr_size);
cudaMalloc((void **)&device_fb, arr_size);

// the loop is unnecessary, you have now an allocated 2D table    

cudaMemcpy(device_fb, host_fb, (block_size*grid_size)*sizeof(u_int32_t*), cudaMemcpyHostToDevice);

我使用了 malloc 函数，因为 cudaMallocHost 和 cudaHostAlloc 都分配了设备可访问的页面锁定主机内存，这可能不是你想要什么。如果存在性能问题，您可以使用它们，因为它们都会强制对分配的内存进行分页。有关详细信息，请参阅相应的文档。