node.js - 当单个请求在这些非阻塞 I/O 服务器上花费很长时间时会发生什么？

Question

对于 Node.js、eventlet 或任何其他非阻塞服务器，当给定请求花费很长时间时会发生什么情况，它会阻塞所有其他请求吗？

例如，一个请求进来，需要 200 毫秒来计算，这将阻止其他请求，例如nodejs 使用单线程。

这意味着您每秒 15K 的速度将大幅下降，因为计算给定请求的响应所花费的实际时间。

但这对我来说似乎是错误的，所以我想问到底发生了什么，因为我无法想象事情是这样运作的。

Answer 1

它是否“阻塞”取决于您对“阻塞”的定义。通常阻塞意味着您的 CPU 基本上处于空闲状态，但当前线程无法对其执行任何操作，因为它正在等待 I/O 等。除非您使用不推荐的同步 I/O 函数，否则这种事情不会在 node.js 中发生。相反，函数会快速返回，当它们开始的 I/O 任务完成时，您的回调将被调用，您可以从那里获取它。在此期间，可以处理其他请求。

如果你在 Node 中做一些计算量很大的事情，在它完成之前没有其他东西可以使用 CPU，但出于一个非常不同的原因:CPU 实际上很忙。通常这不是人们所说的“阻塞”的意思，相反，这只是一个很长的计算。

200ms对于不涉及I/O，纯粹做计算的事情来说，是一个很长的时间。老实说，这可能不是您应该在 Node 中做的事情。一个更符合 Node 精神的解决方案是让这种数字运算发生在另一个(非 javascript)程序中，该程序由 Node 调用，并在完成时调用您的回调。假设您有一台多核机器(或其他程序在另一台机器上运行)， Node 可以在其他程序运行时继续响应请求。

在某些情况下，集群(正​​如其他人所提到的)可能会有所帮助，但我怀疑您的集群是否真的是其中之一。集群真正适用于当您有很多很多的小请求时，这些请求加在一起超过了 CPU 的单个核心可以处理的数量，而不是针对您有每个请求需要数百毫秒的单个请求的情况。