gpt4 book ai didi

.net - CUDA - 维护指向全局内存的指针

转载 作者:行者123 更新时间:2023-12-02 00:39:13 25 4
gpt4 key购买 nike

我有一个使用 CUDA 的 .NET 程序。

通过 C DLL 访问 CUDA。

我正在做的是在程序启动时通过在设备上分配缓冲区 (cudaMalloc) 来初始化我的 CUDA 应用程序。然后将指向这些缓冲区的指针保存在 DLL 中声明的静态变量中。数据在整个程序中被复制到缓冲区和从缓冲区复制。程序终止时,先前分配的缓冲区将被释放。

维护指向已分配设备内存的指针是否可以,还是我应该在每次执行内核时重新分配(这看起来效率很低)?

我目前没有注意到任何副作用,但只是想确认这种使用模式是首选和可接受的。

最佳答案

据我所知,唯一强烈建议使用设备内存 - 减少复制操作。 cudaMalloc 的工作速度比 cudaMemcpy 快得多。所以,重用缓冲区没什么大不了的。如果您正确使用设备内存,它将正常工作

关于.net - CUDA - 维护指向全局内存的指针,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/3319353/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com