python - 在同一个 Python 2.7 脚本中使用 mysqldb 和 sqlite3 : Should I throw in the towel?

Question

我正在编写一个 Python 脚本，用于从 MySQL 数据库中提取、处理和更新。

我最初开始使用 MySQL 数据库的逗号分隔值转储来解决这个问题，我将其放入 sqlite 数据库(使用 sqlite3)。我会在 Python (2.7) 中进行处理，创建输出的 CSV 文件，然后使用另一个脚本将其上传回 MySQL 数据库。

然后我想我会尝试直接从 Python 脚本中拉取/推送到 MySQL 数据库。所以我安装了 MySQLdb，然后就开始了。

我现在发现的是，我从 MySQL 数据库(到 sqlite 数据库)中的 INSERT 并没有像以前那样加入。整数的表示形式现在在末尾附加了一个 L，十进制值表示为类似 Decimal('4.00') 的形式。

基本上，当我从 CSV 文件中插入它们时，JOIN 编辑得很好的东西现在不能很好地工作了。

我的问题:我是在要求一个痛苦的世界继续沿着这条路走下去，还是有一个简单的方法让 MySQLdb 和 sqlite3 库一起玩？如果没有，那么我将安装一个 MySQL 服务器并重构我的代码以仅使用 MySQL。

Answer 1

每个数据库后端支持不同类型的数据。 sqlite 和 mysqldb python 模块试图通过根据字段类型进行适当的类型转换来帮助您。因此，如果您的 mysql 数据库有一个 DECIMAL 字段，MySQLdb 将自动将该字段作为 Python Decimal 对象返回。

您可以请求 MySQLdb(如果需要，还可以请求 sqlite)在数据库和 Python 类型之间进行适当的类型转换。由您决定哪种类型转换是合适的。例如，由于您的数据库有一个 DECIMAL 字段，您将如何在没有 native DECIMAL 字段的 sqlite 中表示该值？您可能最终会使用 REAL，但这当然与将保持所需精度的 DECIMAL 不同。

由于您已经从 csv 数据转换，我怀疑您一直在使用 Python 浮点类型，这表明您很乐意将 MySQL 小数字段转换为浮点。在这种情况下，您可以请求 MySQLdb 将所有字段结果从 DECIMAL 转换为 float 。

这里是一段代码示例，它创建了两个表，mysqldb 和 sqlite 中各有一个。 MySQL 版本有一个 DECIMAL 字段。您可以在 query_dbs 函数中看到如何创建您自己的转换函数。

#!/usr/bin/env python

import os
import sqlite3
import MySQLdb
from MySQLdb.constants import FIELD_TYPE

user = os.getenv('USER')

def create_mysql_table():
    conn = MySQLdb.connect(user=user, db='foo')
    c = conn.cursor()
    c.execute("DROP TABLE stocks")
    c.execute("CREATE TABLE stocks"
              "(date text, trans text, symbol text, qty real, price Decimal(10,2) UNSIGNED NOT NULL)")
    c.execute("INSERT INTO stocks VALUES ('2006-01-05','BUY','RHAT',100,35.14)")
    conn.commit()

def create_sqlite_table():
    conn = sqlite3.connect('test.db')
    c = conn.cursor()
    c.execute("DROP TABLE stocks")
    c.execute("CREATE TABLE stocks"
              "(date text, trans text, symbol text, qty real, price real)")
    c.execute("INSERT INTO stocks VALUES ('2006-01-05','BUY','RHAT',100,35.14)")
    conn.commit()

def query_dbs(use_type_converters):
    conn = sqlite3.connect('test.db')
    c = conn.cursor()
    for row in c.execute('SELECT * FROM stocks'):
        print 'SQLITE: %s' % str(row)

    type_converters = MySQLdb.converters.conversions.copy()

    if use_type_converters:
        type_converters.update({
            FIELD_TYPE.DECIMAL: float,
            FIELD_TYPE.NEWDECIMAL: float,
        })

    conn = MySQLdb.connect(user=user, db='foo', conv=type_converters)
    c = conn.cursor()
    c.execute('SELECT * FROM stocks')
    for row in c.fetchall():
        print 'MYSQLDB: %s' % str(row)

create_sqlite_table()
create_mysql_table()

print "Without type conversion:"
query_dbs(False)
print "With type conversion:"
query_dbs(True)

此脚本在我的机器上产生以下输出:

Without type conversion:
SQLITE: (u'2006-01-05', u'BUY', u'RHAT', 100.0, 35.14)
MYSQLDB: ('2006-01-05', 'BUY', 'RHAT', 100.0, Decimal('35.14'))
With type conversion:
SQLITE: (u'2006-01-05', u'BUY', u'RHAT', 100.0, 35.14)
MYSQLDB: ('2006-01-05', 'BUY', 'RHAT', 100.0, 35.14)

这表明，默认情况下 MySQLdb 返回 Decimal 类型，但可以强制返回不同的类型，适合与 sqlite 一起使用。

然后，一旦您在两个数据库之间规范化了所有类型，您就不会再遇到连接问题。

Python MySQLdb 文档是 here