scalability - 如何为并行代码定义可伸缩性？

Question

我很想知道是否有关于并行代码是否可扩展的正式定义，或者它是否只是一个时髦的词？如果我将串行壁时间测量为 t_S，将并行壁时间测量为 t(P)，那么我可以将效率定义为 E(P) = t_S/(t(P) * P)，是否有一个标准来说明效率必须随着 P(和问题的大小)而改变，代码才能被认为是可扩展的？

Answer 1

可扩展意味着使用额外的机器或 CPU 内核(纵向扩展与横向扩展)，性能(处理越来越大的工作负载的能力)得到提高。因此串行代码不可扩展。并行代码即可。阿姆达尔定律限制了系统的可扩展性。

可扩展性通常比效率更重要。可扩展但效率低下的系统只需添加硬件即可处理更多负载。一个高效但不可扩展的系统需要大量的代码返工才能处理更大的负载。