asp.net-core - Kestrel 是否像 Node.js 一样使用单线程处理请求？

Question

两者Kestrel和 Node.js基于libuv .

虽然 Node.js 明确指出它使用 an event loop ，我似乎无法找到 Kestrel 是否属于这种情况，或者它是否像 IIS 一样利用线程池/请求队列？

网络服务器后面的 Kestrel

Node.js 事件循环

    ┌───────────────────────┐
 ┌─>│        timers         │
 │  └──────────┬────────────┘
 │  ┌──────────┴────────────┐
 │  │     I/O callbacks     │
 │  └──────────┬────────────┘
 │  ┌──────────┴────────────┐
 │  │     idle, prepare     │
 │  └──────────┬────────────┘      ┌───────────────┐
 │  ┌──────────┴────────────┐      │   incoming:   │
 │  │         poll          │<─────┤  connections, │
 │  └──────────┬────────────┘      │   data, etc.  │
 │  ┌──────────┴────────────┐      └───────────────┘
 │  │        check          │
 │  └──────────┬────────────┘
 │  ┌──────────┴────────────┐
 └──┤    close callbacks    │
    └───────────────────────┘

Answer 1

针对 ASP.Net Core 2.0 进行了更新。正如 poke 所指出的，服务器已分为托管层和传输层，其中 libuv 属于传输层。 libuv ThreadCount已移至其自己的 LibuvTransportOptions它们是在您的网络主机构建器中使用 UseLibuv() 单独设置的扩展方法:

• 如果您检查 LibuvTransportOptions 在github中的类，你会看到一个ThreadCount选项:

  /// <summary>
  /// The number of libuv I/O threads used to process requests.
  /// </summary>
  /// <remarks>
  /// Defaults to half of <see cref="Environment.ProcessorCount" /> rounded down and clamped between 1 and 16.
  /// </remarks>
  public int ThreadCount { get; set; } = ProcessorThreadCount;
  

• 可以在调用 UseLibuv 时设置该选项，在您的网络主机构建器中。例如:

  public static IWebHost BuildWebHost(string[] args) =>
      WebHost.CreateDefaultBuilder(args)
          .UseLibuv(opts => opts.ThreadCount = 4)
          .UseStartup<Startup>()                
          .Build();
  

在 ASP.NET Core 1.X 中，Libuv 配置是 kestrel 服务器的一部分:

• 如果您检查 KestrelServerOptions 在其 github 存储库中的类中，您将看到有一个 ThreadCount选项:

  /// <summary>
  /// The number of libuv I/O threads used to process requests.
  /// </summary>
  /// <remarks>
  /// Defaults to half of <see cref="Environment.ProcessorCount" /> rounded down and clamped between 1 and 16.
  /// </remarks>
  public int ThreadCount { get; set; } = ProcessorThreadCount;
  

• 可以在调用 UseKestrel 时设置该选项，例如在新的 ASP.Net Core 应用程序中:

  public static void Main(string[] args)
  {
      var host = new WebHostBuilder()
          .UseKestrel(opts => opts.ThreadCount = 4)
          .UseContentRoot(Directory.GetCurrentDirectory())
          .UseIISIntegration()
          .UseStartup<Startup>()
          .Build();
  
      host.Run();
  }
  

深入研究源代码:

• 您可以看到在 KestrelThreads 中创建了 libuv 监听器线程(或 KestrelEngine )。
• 有些地方会调用 ThreadPool 方法，以便它们可以在 CLR 线程池而不是 libuv 线程中运行代码。 (使用ThreadPool.QueueUserWorkItem)。该池似乎默认为 max of 32K threads可以修改via config .
• Frame<TContext> 委托(delegate)给实际应用程序(例如 ASP.Net Core 应用程序)来处理请求。

所以我们可以说它使用多个 libuv eventloops 进行 IO。实际工作是使用 CLR 线程池在具有标准工作线程的托管代码上完成的。

我很想找到更多关于此的权威文档(official docs 没有提供太多细节)。我发现的最好的一个是 Damian Edwards 在 channel 9 上谈论 Kestrel。 。大约第 12 分钟，他解释道:

• libuv 使用单线程事件循环模型
• Kestrel 支持多个事件循环
• Kestrel 在 libuv 事件循环上仅进行 IO 工作
• 所有非 IO 工作(包括与 HTTP 相关的任何工作，如解析、成帧等)都是在标准 .net 工作线程上的托管代码中完成的。

此外，快速搜索已返回:

• David Fowler 谈论 Kestrel 中的线程池 here 。它还确认请求仍可能在 ASP.Net Core 中的线程之间跳转。 (与以前的版本一样)
• 这个blogpost看到 Kestrel 出来的时候
• 这个question关于如何在 ASP.Net Core 中管理线程。