c# - 限制与外部 API 的传出连接

Question

我目前正在使用 asp core 2.2 开发网站。本网站使用外部 API。但是我有一个大问题，不知道如何解决。此外部 API 限制每个 IP/秒 10 个请求。如果 11 个用户单击我网站上的按钮并同时调用 API，API 可能会中断我几个小时。 API 所有者告诉客户注意不要超过限制。你知道怎么做吗？

附言。当然，一百万用户是个笑话，但我希望该网站是公开的:)

Answer 1

10 个请求/秒是一个硬性限制，似乎没有办法绕过它。所以你必须自己解决它。

有几个选项:

1. 使用 Javascript 直接调用该 API。这样每个用户将能够执行 10 个请求/秒，而不是所有用户的 10 个请求/秒(推荐)
2. 排队请求并且最多只发送 10/s(强烈不推荐，杀死你的线程池并且可以阻止每个人访问你的网站，当输入速度大于输出时)
3. 当您达到 10/s 的限制时，在服务器端放弃请求，并让客户端稍后重试。 (当输入到来的速度>输出时，等待时间将是无限的)

并且根据 API 返回的内容，您可以将其缓存在服务器端，以避免再次从第 3 方请求它。