language-agnostic - 超线性加速从何而来？

Question

在并行计算中，理论上超线性加速是不可能的。但在实践中，我们确实看到了这样的情况。 One reason is cache effect但我不明白它在播放什么。此外，还涉及其他事情，但它们是什么？总之，

How are super-linear speedups possible?

我是并行计算方面的初学者。

Answer 1

假设您有一台 8 处理器的机器，每个处理器有 1MB 缓存，并且您的计算使用 6MB 数据。

在 1 个处理器上，计算将在 CPU、缓存和 RAM 之间进行大量数据移动。在 8 个处理器上，计算只需在 CPU 和缓存之间移动数据。通过这种方式，您可以实现超线性加速。

这些数字和此分析已简化以供初学者说明。