python - 处理 Flask/Gunicorn Web 服务的 1000 个并发请求

Question

我对于用 Python 创建 Web 服务还很陌生。我已经成功创建了一个 Flask Web 服务并使用 Gunicorn 运行它(因为 Flask 的内置服务器不适合生产)。这就是我运行应用程序的方式(有 4 个工作节点)。

   gunicorn --bind 0.0.0.0:5000 My_Web_Service:app -w 4

问题是，这一次只能处理 4 个请求。我希望它能够同时处理潜在的 1000 个请求。我应该使用多线程吗？还有其他选择/建议吗？

Answer 1

阅读有关 Workers 的部分如果你的工作是 IO 密集型的，你必须切换到异步工作线程，它可以处理数千个连接。不建议使用多于 CPU 的进程。