c# - 如何在具有多个客户端的 TCP 服务器端保留消息发送顺序

Question

我有两台 PC 通过 1Gbps 链路通过直接以太网电缆连接。其中一个充当 TCP 服务器，另一个充当 TCP 客户端。现在我想在这两者之间实现最大可能的网络吞吐量。

我尝试过的选项:在 PC-1 上创建多个具有不同端口号的客户端，连接到 TCP 服务器。创建多个客户端的原因是为了增加网络吞吐量，但这里我遇到了一个问题。

我有一个要发送到服务器的事件缓冲区队列。将有多个具有相同事件编号的消息。服务器必须获取所有消息，然后根据事件编号对消息进行排序。每个客户端现在从并发队列中取出消息并发送到服务器。发送后，客户端再次重复相同的操作。我在客户端设置了约束，即在发送所有标有 Event-1 的消息之前，不会发送 Event-2。因此，我看到发送的事件顺序是正确的。并且 TCP 服务器不断地从所有客户端接收。

现在让我们来解决问题:服务器正在以很小的随机方式接收数据，就像我在图片中显示的那样。两个连续事件之间的随机性在获取一段时间后变得更糟。我认为这种随机行为是由于为 IO 完成回调执行的并行工作线程所致。

使用的技术:F# Socket Async with SocketEventArgs

我尝试的解决方案:我没有允许从服务器端的所有客户端接收，而是尝试轮询下一个可用的客户端和待处理的数据，然后它确保了正确的顺序，但它的性能根本无法与早期的方法相提并论。

我希望以与从客户端发送的顺序相同/几乎相同的顺序(但不是非确定性随机性)接收。有什么办法可以保留顺序并保持更好的吞吐量？在两台 PC 上实现近 100% 的网络吞吐量的最佳方法是什么？

Answer 1

正如其他人在评论中指出的那样，如果您要使用的是 TCP，则单个 TCP 连接可能会为您提供最高的吞吐量。

您可以使用 UDP 实现略微(实际上是微不足道的)更高的吞吐量，但是您需要重新创建 TCP 免费为您提供的所有好东西。

如果你想要双向高容量高速吞吐量(而不是一次只用一种方式的高容量)，那么每个方向一个连接可能更容易处理，但我没有那么多经验

设计技巧

您应该保持连接打开。客户需要问“你还在吗？”如果没有其他通信继续，则定期进行。 (转念一想，我意识到这样做的唯一目的是允许快速响应和服务器发起消息事务的可能性。因此我将其修改为:至少为一个完整的事务保持连接打开。)

此外，您应该拆分大消息 - 超过一定大小的消息。将您在每个 block 中发送的字节数保持为最大圆形十六进制数，在本地网络上通常为 8K、16K、32K 或 64K。尝试尺寸。至少从 Windows 3 开始，建议的最大尺寸是最佳的。您需要某种带有 chunck 的协议(protocol)，该 chunck 由固定 header (通常是用于检查和重新同步的魔数(Magic Number)、也用于检查和分析的 block 号以及总数据包长度)和数据组成。

您可以通过压缩(通常是低速压缩)进一步提高吞吐量 - 这在很大程度上取决于数据，以及您使用的是快网络还是慢网络。

然后就是人们通常会遇到的麻烦 - Nagle 算法的问题 - 我不再记得足够多的细节了。我相信我曾经通过发送一个确认作为对每个发送 block 的返回来克服这个问题，我怀疑这样做你满足了设计要求，因此避免等待最后一个字节进入。但是谷歌这个。