异步 Web 响应的 C# 批处理在完成之前挂起

Question

场景如下。

我想调用 2 个版本的 API(托管在不同的服务器上)，然后将它们的响应(它们以 JSON 形式出现)转换到 C# 对象并进行比较。

重要说明 这里是我需要查询 API 很多次 ~3000。这样做的原因是我查询了一个具有 id 并从数据库返回特定对象的端点。所以我的查询类似于 http://myapi/v1/endpoint/id。 我基本上使用循环遍历所有 id。

问题来了

我开始查询 API，对于前 90% 的所有请求，它的速度非常快(我收到响应并处理它)，所有这一切都在 5 秒内发生。

然而，我开始停下来。接下来的 50-100 个请求可能需要 1-5 秒来处理，之后我就停下来了。没有 CPU 使用率，网络事件很低(而且我很确定该事件来自其他应用程序)。我的应用挂起。

更新:大约 50% 的我对此进行了测试，它在相当长的一段时间后终于恢复了。但其他 50% 仍然只是挂起

这是我在代码中所做的

我有一个 ID 列表，我迭代它来查询端点。这是查询 API 和处理响应的主要代码段。

var endPointIds = await GetIds(); // this queries a different endpoint to get all ids, however there are no issues with it

var tasks = endPointIds.Select(async id =>
{
    var response1 = await _data.GetData($"{Consts.ApiEndpoint1}/{id}");
    var response2 = await _data.GetData($"{Consts.ApiEndpoint2}/{id}");

    return ProcessResponces(response1, response2);
});

var res = await Task.WhenAll(tasks);
var result = res.Where(r => r != null).ToList();

return result; // I never get to return the result, the app hangs before this is reached

这是 GetData() 方法

private async Task<string> GetAsync(string serviceUri)
{
    try
    {
        var request = WebRequest.CreateHttp(serviceUri);
        request.ContentType = "application/json";
        request.Method = WebRequestMethods.Http.Get;
        using (var response = await request.GetResponseAsync())
        using (var responseStream = response.GetResponseStream())
        using (var streamReader = new StreamReader(responseStream, Encoding.UTF8))
        {
            return await streamReader.ReadToEndAsync();
        }
    }
    catch
    {
        return string.Empty;
    }
}

我也会链接 ProcessResponces 方法，但是我尝试模拟它以返回如下字符串:

private string ProcessResponces(string responseJson1, string responseJson1)
{
    //usually i would have 2 lines that deserialize responseJson1 and responseJson1 here using Newtonsoft.Json's DeserializeObject<>
    return "Fake success";
}

即使有了这个实现，我的问题也没有消失(唯一不同的是我管理了大约 97% 的请求的快速请求，但我的代码仍然在最后几个请求时停止)，所以我猜主要问题与该方法无关。但它或多或少所做的是反序列化对 c# 对象的两个响应，比较它们并返回有关它们是否相等的信息。

这是我调试 4 小时后的观察结果

• 如果我手动减少对我的 API 的查询数量(我在 ID 列表上使用了 .Take() 方法)，问题仍然存在。例如，在 1000 个总请求中，我从第 900 个开始挂起，第 1400 个开始挂起 1500 个，依此类推。我相信这个问题会在大约 100-200 个请求时消失，但我不确定，因为它可能太快了，我没有注意到。

• 由于目前这是一个控制台应用程序，我尝试在我的一些方法中添加 WriteLines()，问题似乎消失了(我猜测在控制台上写入会造成速度延迟，需要一些时间在请求和帮助之间)

• 最后，我对我的应用程序进行了并发分析，它报告说在我的应用程序挂起时发生了很多争用。打开contention 选项卡显示它们主要发生在 System.IO.StreamReader.ReadToEndAsync()

想法和问题

• 显然，我该怎么做才能解决这个问题？

• 我的 GetAsync() 方法是否有误，我应该使用其他方法代替 responseStream 和 streamReader 吗？

• 我对异步操作不是很精通，可能是我的async/await操作流程不对。

• 最后，会不会是 API Controller 本身的问题？它们是标准的 ASP.NET MVC 5 WebAPI Controller (版本 5.2.3.0)

Answer 1

在使用 Fiddler 长时间跟踪我的请求并最终模拟我的 DataProvider (_data) 以从磁盘本地检索之后 - 事实证明我的响应需要 30 多秒才能到达(甚至根本没有)。

因为我的 .Select() 是 async 它总是首先显示快速响应的信息，然后在等待慢速响应时停止。这给人一种错觉，好像我正在以某种方式快速加载前 X 数量的请求，然后停止。在现实中，我只是简单地看到了最快的 X 请求数量，然后在等待较慢的请求时停下来。

然后回答我的问题...

• 我该怎么做才能解决这个问题 - 设置允许请求完成的最大毫秒数/秒的超时。

• GetAsync() 方法没问题。

• 异步/等待操作也是正确的，只需要记住执行异步选择将返回按完成时间排序的结果。

• ASP.NET Framework Controller 非常好，不会导致问题。