CUDA:HtoD 和 DtoH 带宽之间的差异

Question

另一个与带宽相关的问题。我预计设备到主机带宽的图和主机到设备的图是相似的，但我发现两者之间存在显着差异。考虑到两者都走同一条路线，所以有效带宽应该是一样的，不是吗？测试台由两个插槽上的 12 个 Intel Westmere CPU、4 个带有 4 个 PCIe Gen2 Express 插槽的 Tesla C2050 GPU 组成。使用来自 NVidia 代码示例的带宽测试程序。

从主机和设备执行 cudamemCpy 的开销是多少？

Answer 1

首先，我想说这两条曲线是相似的。老实说，我从未在我使用过的任何系统上看到过对称 PCI-e 带宽——包括 CUDA 和图形 (OpenGL/D3D) 测试，所以我不认为这是什么(尤其是这种微小的差异) ) 这应该与您有关。

与您的其他 PCI-e 带宽问题一样，答案是相似的——驱动程序可能对不同类型和大小的传输使用不同的策略，试图获得尽可能高的吞吐量。

实际吞吐量取决于许多因素，包括 GPU 的类型，尤其是所使用的主机芯片组。