cuda - 设备带宽的含义

Question

我目前正在学习 CUDA，并且不断遇到像这样的短语

“GPU 具有专用内存，其带宽是 CPU 内存的 5-10 倍”

参见 here供第二张幻灯片引用

现在带宽在这里真正意味着什么？具体来说，一个是什么意思

• CPU 带宽
• GPU 的带宽
• GPU 安装在主板上的 PCI-E 插槽的带宽。我在计算机架构方面的背景很差，所以如果有人能对这些术语给出一个非常简单的解释，那将非常有帮助。

我对带宽的理解非常非常有限，是指每秒从 CPU 传输到 GPU 的最大可能千兆字节数。但这并不能解释为什么我们需要定义三种类型的带宽。

Answer 1

当前具有独立 GPU 的 CPU/GPU 系统中存在三种不同的内存总线:

1. 将 GPU 连接到其自己的 RAM 的 GPU(又名“设备”)内存总线。
2. 将 CPU 连接到其自己的 RAM 的 CPU(也称为“主机”或“系统”)内存总线。
3. PCI-e 总线，将 CPU 芯片组连接到其外围设备，包括 GPU。

这些总线中的每一个都有物理总线宽度(以位为单位)、时钟速度(总线上的数据信号每秒可以更改多少次)和带宽(也称为吞吐量)，以位/秒为单位(这可以转换为每秒千兆字节)。峰值带宽由总线宽度乘以总线时钟速率决定。可实现的带宽还必须考虑任何开销(例如 PCI-e 数据包开销)。

http://en.wikipedia.org/wiki/Bandwidth_(computing ).