gpu - 为什么深度学习需要 GPU？

Question

正如问题已经暗示的那样，我是深度学习的新手。我知道模型的学习过程在没有 GPU 的情况下会很慢。如果我愿意等待，如果我只使用CPU可以吗？

Answer 1

在计算深度学习(以及一般的神经网络)中执行的许多操作可以并行运行，这意味着它们可以独立计算然后在以后聚合。这部分是因为大多数操作都是在向量上进行的。

典型的消费级 CPU 有 4 到 8 个内核，超线程允许它们分别被视为 8 或 16 个。服务器 CPU 可以分别具有 4 到 24 个内核、8 到 48 个线程。此外，大多数现代 CPU 具有 SIMD (单指令多数据)扩展，允许它们在单个线程上并行执行向量操作。根据您使用的数据类型，8 核​​ CPU 可以一次执行 8 * 2 * 4 = 64 到 8 * 2 * 8 = 128 个向量计算。

英伟达新品1080ti有 3584 个 CUDA 核心，这实质上意味着它可以一次执行 3584 个向量计算(超线程和 SIMD 在这里不发挥作用)。这是一次比 8 核 CPU 多 56 到 28 倍的操作。因此，无论您是训练单个网络还是多个网络以调整元参数，GPU 上的速度可能都比 CPU 快得多。