python - 在 Flask 应用程序中使用 uwsgi 部署时，keras 预测会卡住

Question

我有一个 keras 模型，可以在单元测试和本地 flask 应用程序( flask 运行)中完美运行。然而，当我在 uwsgi 中启动 flask 应用程序时，它从第二个请求开始就卡住了，杀死了整个应用程序。这是因为 uwsgi 产生了多个进程吗？我该如何解决这个问题？谢谢。

Answer 1

我遇到了同样的问题，这可能不是理想的解决方法。但我相信这是在多个进程中运行的 Keras 问题。

我正在使用 lazy-apps = true 运行 uWSGI。

uwsgi --http 0.0.0.0:5000 --wsgi-file your_flask_server.py --callable app --processes 2 --threads 2 --stats 127.0.0.1:9191 --lazy-apps

注意:通过延迟加载应用程序，这将消耗更多的内存，例如内存的两倍，因为它会在每个线程/进程中再次加载整个应用程序

这里有一些完整的使用链接: Similar Issue , Similar Issue

Example deployment guide