c++ - 统一内存分配cuda的功能关键字

Question

我开始使用 CUDA 编程，作为实现粒子积分器的开始，我制作了一个积分器类，它包含有关粒子的数据并且应该能够对其进行积分。数据来自另一个容器类，我想把这个数据分配到统一内存上。为此，我有一个成员函数“_allocate”，它所做的只是为成员变量调用 cudaMallocManaged。现在我想知道我应该用什么样的功能关键字来包装这个函数。

我读到你不能在类定义中使用“全局”，现在我同时使用主机和设备，因为统一内存应该对主机和设备都可用，但我不确定这是否正确方式。

这是我想在其中实现的类:

template <typename T>
class Leapfrog : public Integrator<T> {
  public:

   ...

  private:
    T *positions; 
    T *masses; 
    T *velocities; 
    T *types; 
    __device__ __host__ bool _allocate();
    __device__ __host__ bool _free();
    __device__ __host__ bool _load_data();
};

// allocates space on the unified memory for the 
// private variables positions, masses, velocities, types

template <typename T>
__host__ __device__ void Leapfrog<T>::_allocate(){
  cudaMallocManaged(&positions, particleset.N*3*sizeof(T));
  cudaMallocManaged(&masses, particleset.N*sizeof(T));
  cudaMallocManaged(&velocities, particleset.N*3*sizeof(T));
  cudaMallocManaged(&types, particleset.N*sizeof(T));
}

我不知道这是否与functional关键字有关，但我也想在分配后检查cudaError看是否成功

Answer 1

每个只能在设备上调用的可调用对象都应该用__device__修饰。如果 host only 应该用 __host__ 装饰。

您仅将 __host__ __device__ 用于将在主机和设备上调用的可调用对象。

cudaMallocManaged仅主机代码:

__host__​cudaError_t cudaMallocManaged ( void** devPtr, size_t size, unsigned int  flags = cudaMemAttachGlobal )
Allocates memory that will be automatically managed by the Unified Memory system.

因此您的代码只能在主机上运行。