python - 批量加载程序 CSV 大小错误

Question

当导入包含大单元格的 CSV 文件时，Bulkloader 会引发以下错误:

[ERROR   ] Error in data source thread: field larger than field limit (131072)

这是 csv 模块的常见问题，可以通过以下方式修复:

csv.field_size_limit(sys.maxint)

我怎样才能让 bulkloader 执行这个？

Answer 1

试试这个:

在 bulkloader.yaml 添加:

python_preamble:
- import: csv_fix
... # the rest of your imports

在 csv_fix.py 添加:

import csv, sys
csv.field_size_limit(sys.maxint)