c# - 我应该使用线程还是任务 - 多客户端模拟

Question

我正在编写一个客户端模拟程序，其中所有模拟客户端都针对服务器运行一些预定义的例程 - 这是一个在 Azure 中运行的具有四个实例的 Web 服务器。

所有模拟客户端在连接到服务器后运行相同的程序。

任何时候我都想使用我的程序模拟 300 到 800 个客户端。

我的问题是:我应该创建客户端类的 N 个实例并在 N 个不同的线程中运行它们吗？或者

我应该使用任务库来做这些事情吗？

Answer 1

您当然不应该创建 800 个线程。

让我们回到这里。您有一个称为“服务器”的设备，它接收来自“客户”的“请求”并将“响应”发送回这些客户。假设请求是邮局投递的纸片，响应是装书的盒子，也是由邮局投递的。

您希望模拟 800 个客户端以测试服务器。

假设线程是一个人，处理器是一把椅子。一个人只能坐在椅子上工作。

创建 800 个线程相当于出去雇用 800 个人，并付钱给他们每人发一封信给服务器。但是你只有四把椅子，所以这 800 个人必须轮流使用椅子。

这在现实生活中将是一个可笑的解决方案。线程和人一样，非常昂贵。您应该尽量减少创建的线程数。

那么，您是否应该改为通过任务工厂创建 800 个任务，然后让 TPL 为您并行处理它们？

不，你也不应该那样做。 TPL 有一群人(线程)可以从中抽取，它试图安排事情，使工资单上的人不超过他们坐的椅子。但你的任务不是“椅子限制” - - 人们将坐在椅子上，向服务器发送请求，然后在等待响应返回时离开椅子。 在他们等待的同时，TPL 现在必须雇用更多人来完成额外的任务。

访问 Web 服务器受 I/O 限制； 您应该只为受 CPU 限制的任务创建线程池任务。

正确的解决方案是雇用两个 人。

一个人——“I/O 完成线程”——除了在邮箱中丢弃请求并检查传入的包之外什么都不做。另一个人——“模拟”人——计算出模拟 800 个客户的正确“时间表”。模拟人制定出时间表，然后去 sleep 。当需要向服务器发送另一个请求时，她会醒来。当她醒来时，她告诉 I/O 完成线程将这封信放入邮箱，并在收到回复时将她唤醒。然后她继续休眠，直到发送另一个请求或回复为止需要验证的进来。

您应该做的是 (1) 获取 C# 5 的测试版并使用 async/await 创建向服务器发送请求的任务，然后将控制权交还给消息循环直到发送另一个请求或收到响应为止。或者，如果您不想使用 C# 5，您应该创建一个任务完成源，并设置具有正确延续的任务。

简而言之:处理许多并行 I/O 任务的正确方法是创建非常少量的线程，每个线程一次只做很少量的工作。让 I/O 完成线程处理 I/O 的细节。 您不需要雇用 800 人来模拟发送 800 封信。雇用两个人，一个看邮箱，一个写信。