cuda - 在 GPU 上动态分配内存

Question

是否可以在内核内部的 GPU 全局内存上动态分配内存？
我不知道我的答案有多大，因此我需要一种方法来为答案的每个部分分配内存。 CUDA 4.0 允许我们使用 RAM ......这是一个好主意还是会降低速度？

Answer 1

可以在内核中使用 malloc。检查以下取自 nvidia cuda 指南:

__global__ void mallocTest() 
{ 
  char* ptr = (char*)malloc(123); 
  printf(“Thread %d got pointer: %p\n”, threadIdx.x, ptr); 
  free(ptr); 
} 
void main() 
{ 
  cudaThreadSetLimit(cudaLimitMallocHeapSize, 128*1024*1024); 
  mallocTest<<<1, 5>>>(); 
  cudaThreadSynchronize(); 
} 

will output: 
Thread 0 got pointer: 00057020 
Thread 1 got pointer: 0005708c 
Thread 2 got pointer: 000570f8 
Thread 3 got pointer: 00057164