c++ - 使用异步 I/O 和 IOCP 实现回声服务器的最佳方法是什么？

Question

众所周知，回显服务器是从套接字读取数据并将该数据写入另一个套接字的服务器。

由于 Windows I/O Completion 端口为您提供了不同的处理方式，我想知道实现回显服务器的最佳方式(最有效)是什么。我肯定会找到一个测试过我将在这里描述的方法的人，并且可以贡献他/她的贡献。

我的类(class)是 Stream它抽象了一个套接字、命名管道或其他任何东西，以及 IoRequest它抽象了 OVERLAPPED结构和内存缓冲区来做 I/O(当然，适合读和写)。这样当我分配一个 IoRequest我只是为数据 + OVERLAPPED 的内存缓冲区分配内存一枪搞定，所以我调用malloc()只有一次。
除此之外，我还在IoRequest中实现了花哨和有用的东西。对象，例如原子引用计数器等。

说了这么多，下面我们来探讨一下做最好的echo server的方法:

------------------------------------------- 方法A。--- -------------------------------

1)“reader”套接字完成读取，IOCP回调返回，你有一个IoRequest刚刚完成了内存缓冲区。

2)让我们复制刚刚用“reader”接收到的缓冲区IoRequest致“作家”IoRequest . (这将涉及 memcpy() 或其他任何内容)。

3) 让我们用 ReadFile() 再次触发新的阅读在“阅读器”中，同IoRequest用于阅读。

4) 让我们用 WriteFile() 写一篇新文章在“作家”。

------------------------------------------- 方法B。--- -------------------------------

1)“reader”套接字完成读取，IOCP回调返回，你有一个IoRequest刚刚完成了内存缓冲区。

2) 不复制数据，而是传递 IoRequest到“writer”进行写入，无需使用 memcpy() 复制数据.

3) “读者”现在需要一个新的 IoRequest继续阅读，分配一个新的或传递之前已经分配的一个，也许在新的写入发生之前刚刚完成写入。

因此，在第一种情况下，每个 Stream对象有自己的IoRequest , 数据用 memcpy() 复制或类似的功能，一切正常。
在第二种情况下 2 Stream对象确实通过 IoRequest相互对象，不复制数据，但它有点复杂，你必须管理IoRequest的“交换” 2 Stream之间的对象对象，可能存在同步问题的缺点(那些完成在不同线程中发生的情况如何？)

我的问题是:

Q1) 避免复制数据真的值得吗!？
使用 memcpy() 复制 2 个缓冲区或类似的，非常快，也是因为 CPU 缓存就是为此目的而开发的。
让我们考虑一下，使用第一种方法，我有可能从一个“读取器”套接字回声到多个“写入器”套接字，但使用第二种方法我不能这样做，因为我应该创建 N 个新 IoRequest每个 N 个作者的对象，因为每个 WriteFile()需要自己的OVERLAPPED结构体。

Q2) 我猜当我用 WriteFile() 为 N 个不同的套接字触发一个新的 N 个写作时，我要提供N种不同的OVERLAPPED结构 AND N 个不同的缓冲区在哪里读取数据。
或者，我可以解雇 N WriteFile() N 个不同的调用 OVERLAPPED从 N 个套接字的同一个缓冲区中获取数据？

Answer 1

Is avoiding copying data really worth it!?

取决于你复制多少。 10 个字节，不多。 10MB，那么是的，值得避免复制!

在这种情况下，因为您已经有一个包含 rx 数据和一个 OVERLAPPED 块的对象，所以复制它似乎没有意义——只需将它重新发布到 WSASend() 或其他任何东西。

but with the second one I can't do that

您可以，但您需要从“缓冲区”类中抽象出“IORequest”类。缓冲区保存数据、原子整数引用计数和所有调用的任何其他管理信息、IOrequest OVERLAPPED 块以及数据指针和每个调用的任何其他管理信息。此信息可能具有缓冲区对象的原子 int 引用计数。

IOrequest 是用于每个发送调用的类。由于它只包含一个指向缓冲区的指针，因此不需要复制数据，因此它相当小，并且数据大小为 O(1)。

当 tx 完成进入时，处理程序线程获取 IOrequest，取消引用缓冲区并将其中的原子整数减至零。设法命中 0 的线程知道不再需要缓冲区对象并且可以将其删除(或者，更有可能，在高性能服务器中，将其重新池化以供以后重用)。

Or, I can fire N WriteFile() calls with N different OVERLAPPED taking the data from the same buffer for the N sockets?

是的你可以。看上面。

关于。线程 - 当然，如果可以从多个完成处理程序线程访问您的“管理数据”，那么是的，您可能希望使用临界区来保护它，但原子 int 应该为缓冲区引用计数做。