python - psycopg2.ThreadConnectionPool、uWSGI 和 Flask 的并发问题

Question

我正在使用 Flask、psycopg2 和 uWSGI。我正在使用 psycopg2.ThreadConnectionPool 进行数据库连接池，只有 cursor.callproc 用于查询数据库。

问题:有时，在并发请求期间，过程调用结果会混淆，代码正在查询 procedure_1 但正在获取 procedure_2 的结果(反之亦然并发客户端)。即使在uwsgi.ini中有threads=1，也只有processes用于并发。 psycopg2.ThreadConnectionPool 的 maxconn 设置为 1。如果在 uwsgi.ini

中将 processes 设置为 1，问题就会消失

什么会导致问题？

这是重现问题的简化代码:

flask 应用:

#!/usr/bin/env python
# -*- coding: utf-8 -*-
import contextlib

import flask
import psycopg2
import psycopg2.pool


app = flask.Flask(__name__)


class ThreadConnectionPool(psycopg2.pool.ThreadedConnectionPool):

    @contextlib.contextmanager
    def item(self):
    close = True
    connection = self.getconn()
    connection.autocommit = True
    try:
        yield connection
        close = False
    finally:
        self.putconn(connection, close=close or connection.closed)


pool = ThreadConnectionPool(maxconn=1, minconn=1, **kwargs)  # kwargs are omitted here 

# sp_1 always returns 1, sp_2 always returns 2
EXPECTED = {'sp_1': 1, 'sp_2': 2}


@app.route('/main/', methods=['GET'])
def main_handler():
    procname = flask.request.args['procname']

    with pool.item() as connection:
        cursor = connection.cursor()
        cursor.callproc(procname)

        rows = cursor.fetchall()

        if rows[0][0] == EXPECTED[procname]:
            return 'OK\n'
        else:
            # procedure returned something that it shouldn't return
            return 'ERROR\n'


if __name__ == '__main__':
    app.run()

uwsgi.ini:

[uwsgi]
callable=app
chdir=/path/to/my/project/
module=mymodule
master=True
processes=4 ; if 1, there is no problem
socket=127.0.0.1:9000
threads=1

程序:

-- sp_1
BEGIN
    Return 1;
END;


-- sp_2
BEGIN
    Return 2;
END;

复制(不是每次请求都会发生，而是经常发生):

curl 'http://mymodule.local/main/?procname=sp_1' & curl 'http://mymodule.local/main/?procname=sp_2'
[1] 10636
ERROR
ERROR
[1]+  Done                    curl 'http://mymodule.local/main/?procname=sp_1'

提前致谢!

Answer 1

您正在主控中初始化线程池，在它调用 fork()(以生成工作线程)之后，一切都将变得一团糟(除非您管理它)。确保每个工作人员初始化一次池，或者在 uWSGI 中使用 lazy-apps = true 来为每个工作人员加载一次应用程序。