python - 如何在多线程模式下使用 Gunicorn 运行 Flask

Question

我有用 Flask 编写的 Web 应用程序。正如大家所建议的，我不能在生产中使用 Flask。所以我想到了Gunicorn with Flask。

在 Flask 应用程序中，我正在加载一些机器学习模型。它们的总大小为 8GB。我的 Web 应用程序的并发性可以达到 1000 个请求。机器内存为15GB。
那么运行这个应用程序的最佳方式是什么？

Answer 1

您可以使用 Gunicorn 使用多个工作人员或异步工作人员启动您的应用程序。

flask 服务器.py

from flask import Flask
app = Flask(__name__)

@app.route("/")
def hello():
    return "Hello World!"

if __name__ == "__main__":
    app.run()

带有 gevent 异步 worker 的 Gunicorn

gunicorn server:app -k gevent --worker-connections 1000

Gunicorn 1 worker 12 个线程:

gunicorn server:app -w 1 --threads 12

Gunicorn 有 4 个 worker (多处理):

gunicorn server:app -w 4

这篇文章中有关 Flask 并发的更多信息:How many concurrent requests does a single Flask process receive? .