c++ - Boost Beast 服务器响应延迟 1 秒

Question

我正在尝试使用 boost::beast 创建一个 HTTP 服务器，但我注意到响应时间延迟了一秒钟。我使用高级服务器示例和同步客户端示例来对这种行为进行基准测试。

也尝试禁用 Nagle 算法但没有效果，似乎不是优化问题。

请求是每隔几秒手动发出一次，因此服务器端的高负载是不合理的。

它似乎与 boost::asio 套接字有关，因为我前段时间也创建了一个 HTTP 服务器(我认为使用 boost::asio - Boost v1.64，当 Beast 不在时)并且我经历了同样的事情响应时间长 - 这就是我改用 Beast 的原因。

我的问题:

这是 boost::asio 套接字的已知行为吗？

这个延迟可以解决吗？

在套接字上设置 no_delay 可能不起作用的原因是什么？

基准测试结果:

示例服务器的平均响应时间在 1005 毫秒到 1020 毫秒之间，如下面的屏幕截图所示。相比之下，同一客户端在 120 毫秒内收到来自 google.com 的响应。

Here是对本地服务器的请求与对 www.google.com 的请求之间的比较

因此问题又来了:这 900 毫秒的延迟从何而来？这不是任何 HTTP 服务器可接受的响应时间。

还尝试了 fast example server和 synchronous server example结果相同:响应时间超过 1000 毫秒。

基准设置

测试系统:

• Windows 10 专业版 x64
• 处理器英特尔 i7-7700，16GB 内存
• boost 1.66
• Visual Studio 2015

使用调试和发布版本在 x86 和 x64 中测试。正如预期的那样，唯一的区别是调试构建的额外延迟 20-30 毫秒。

服务器设置

• 我拿了advanced server example来自野兽文档
• 在 Visual Studio 2015 中创建了一个新的空控制台项目
• 将示例代码添加到新的 cpp 源文件
• 在项目属性 > VC++ 目录 > 包含目录中设置 boost "...boost\include"包含文件夹
• 在Project's properties > VC++ Directories > Library Directories中设置boost库文件夹
• 在 C/C++ 中 > 预处理器添加了“_WIN32_WINNT=0x0601”
• 在“调试”>“命令参数”中，我添加了“0.0.0.0 8080 . 3”，这意味着“将服务器绑定(bind)到端口 8080 的所有本地地址，使用 .(当前目录)作为根文件夹并在 3 个线程上运行服务器”。<

客户端设置

• 我用了synchronous client来自野兽文档
• 创建了一个类似的 Visual Studio 项目

为了测量请求时间，我在客户端代码中添加了计时器并注释掉了对 cout 的响应输出:

auto start = std::chrono::steady_clock::now();
/* client code */

// printing the response to cout can slow the client
//std::cout << res << std::endl;

auto finish = std::chrono::steady_clock::now();
auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
std::cout << "request time: " << ms.count() << "\n";

这是禁用 TCP 延迟的客户端代码:

boost::asio::connect(socket, results.begin(), results.end());
socket.set_option(tcp::no_delay(true));

这是服务器示例代码的唯一修改。以及禁用 TCP 延迟的服务器代码:

void
on_accept(boost::system::error_code ec)
{
    if(ec)
    {
        fail(ec, "accept");
    }
    else
    {
        // disable TCP delay
        socket_.set_option(tcp::no_delay(true));

        // Create the http_session and run it
        std::make_shared<http_session>(
                std::move(socket_),
                doc_root_)->run();
        }

        // Accept another connection
        do_accept();
}

这是修改后的客户端:

//
// Copyright (c) 2016-2017 Vinnie Falco (vinnie dot falco at gmail dot com)
//
// Distributed under the Boost Software License, Version 1.0. (See accompanying
// file LICENSE_1_0.txt or copy at http://www.boost.org/LICENSE_1_0.txt)
//
// Official repository: https://github.com/boostorg/beast
//

//------------------------------------------------------------------------------
//
// Example: HTTP client, synchronous
//
//------------------------------------------------------------------------------

//[example_http_client

#include <boost/beast/core.hpp>
#include <boost/beast/http.hpp>
#include <boost/beast/version.hpp>
#include <boost/asio/connect.hpp>
#include <boost/asio/ip/tcp.hpp>
#include <cstdlib>
#include <iostream>
#include <string>
#include <chrono>

using tcp = boost::asio::ip::tcp;       // from <boost/asio/ip/tcp.hpp>
namespace http = boost::beast::http;    // from <boost/beast/http.hpp>

// Performs an HTTP GET and prints the response
int main(int argc, char** argv)
{
    try
    {
        // Check command line arguments.
        if(argc != 4 && argc != 5)
        {
            std::cerr <<
                "Usage: http-client-sync <host> <port> <target> [<HTTP version: 1.0 or 1.1(default)>]\n" <<
                "Example:\n" <<
                "    http-client-sync www.example.com 80 /\n" <<
                "    http-client-sync www.example.com 80 / 1.0\n";
            return EXIT_FAILURE;
        }
        auto const host = argv[1];
        auto const port = argv[2];
        auto const target = argv[3];
        int version = argc == 5 && !std::strcmp("1.0", argv[4]) ? 10 : 11;

        auto start = std::chrono::steady_clock::now();

        // The io_context is required for all I/O
        boost::asio::io_context ioc;

        // These objects perform our I/O
        tcp::resolver resolver{ioc};
        tcp::socket socket{ioc};

        // Look up the domain name
        auto const results = resolver.resolve(host, port);

        // Make the connection on the IP address we get from a lookup
        boost::asio::connect(socket, results.begin(), results.end());
        //socket.set_option(tcp::no_delay(true));

        // Set up an HTTP GET request message
        http::request<http::string_body> req{http::verb::get, target, version};
        req.set(http::field::host, host);
        req.set(http::field::user_agent, BOOST_BEAST_VERSION_STRING);

        // Send the HTTP request to the remote host
        http::write(socket, req);

        // This buffer is used for reading and must be persisted
        boost::beast::flat_buffer buffer;

        // Declare a container to hold the response
        http::response<http::dynamic_body> res;

        // Receive the HTTP response
        http::read(socket, buffer, res);

        // Write the message to standard out
        //std::cout << res << std::endl;

        // Gracefully close the socket
        boost::system::error_code ec;
        socket.shutdown(tcp::socket::shutdown_both, ec);

        // not_connected happens sometimes
        // so don't bother reporting it.
        //
        if(ec && ec != boost::system::errc::not_connected)
            throw boost::system::system_error{ec};

        // If we get here then the connection is closed gracefully
        auto finish = std::chrono::steady_clock::now();
        auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
        std::cout << "request time: " << ms.count() << "\n";

    }
    catch(std::exception const& e)
    {
        std::cerr << "Error: " << e.what() << std::endl;
        return EXIT_FAILURE;
    }
    return EXIT_SUCCESS;
}

//]

Answer 1

现在想想修复是多么容易，这很愚蠢 :)

在这里发布任何想知道解决方案的人:用 IP 替换“localhost”，例如从客户端发送请求时为“127.0.0.1”。

Here是使用 127.0.0.1 而不是“localhost”的新响应时间。

这似乎是 Windows 配置问题。 C:\Windows\System32\drivers\etc\hosts 文件包含

# localhost name resolution is handled within DNS itself.
#   127.0.0.1       localhost

但是解析“localhost”的行被注释掉了，DNS 解析很慢。