java - 我们能否将延迟和吞吐量与并行性联系起来

Question

我找到了很多关于延迟与吞吐量的博客和答案。但他们都没有将其与并行性联系起来。我想知道为什么我们不能按如下方式将它们联系起来，

如果吞吐量比延迟更大，则应该涉及并行性。 (假设批处理时没有优化)

例如。 10ms 延迟和 1000 tps 意味着 tps 有所增加(因为 10ms 延迟意味着 100tps)，那么很有可能在 CPU 级别涉及多线程或并行性。如果批量处理多个事务时没有优化。

此外，哪些因素可以提高吞吐量而不是延迟？

Answer 1

简单地说:批处理可能有许多与并行性无关的优点(以延迟为代价提高吞吐量)。有时有固定的单位成本；有时更全局的优化可能会产生很大的效果；有时可以找到重复项并丢弃等等。

装满硬盘的 747 可能是在全局范围内发送数据的最高吞吐量方式，这与并行性关系不大。