cuda - GPUDirect Peer 2 peer using PCIe bus : If I need to access too much data on other GPU, 不会导致死锁吗？

Question

我有一个需要大量数据的模拟程序。我将数据加载到 GPU 中进行计算，数据中存在很多依赖性。由于 1 个 GPU 不足以处理数据，所以我将其升级为 2 个 GPU。但限制是，如果我需要其他 GPU 上的数据，必须先有一个副本到主机。

那么，如果我使用 GPU Direct P2P，PCI 总线是否会处理 GPU 之间那么多的来回通信？不会导致死锁吗？

我是新手，所以需要一些帮助和见解。

Answer 1

PCI Express 在两个方向上都是全速的。不应出现“死锁”，就像您在需要握手才能继续进行的同步 MPI 通信中可能遇到的那样。

正如 Robert 在评论中提到的“通过 PCIE 总线访问数据比从板载内存访问数据要慢得多”。但是，它应该比将数据从 GPU1 传输到 CPU，然后从 CPU 传输到 GPU2 快得多，因为您不必复制两次。

您应该尽量减少 GPU 到 GPU 的传输量，特别是如果您必须在同步数据之前同步数据(在某些算法中可能会发生)。但是，您也可以尝试在传输数据时进行一些并发执行。您可以查看 CUDA C 指南的对等内存部分。 http://docs.nvidia.com/cuda/cuda-c-programming-guide/#peer-to-peer-memory-copy