python pickle 大小限制

Question

我想 pickle 一个大的 (1810392*255) numpy 数组。但是，在 pickle 时出现错误:

[...]error: 'i' format requires -2147483648 <= number <= 2147483647

代码:

import numpy
import pickle
l=numpy.zeros((1810392,255))
f=open('file.pkl','wb')
pickle.dump(l,f,2)

有大小限制吗？有解决方法吗？如果没有必要，我不想使用 hdf5 或未构建到 python 中的东西。

我也试过 numpy.savez和 numpy.savez_compressed .
代码:

import numpy
l=numpy.zeros((1810392,255))
numpy.savez_compressed('file.npz',l)

保存有效，但是当我尝试加载数据时出现错误。
代码:

import numpy
l=numpy.load('file.npz')
l['arr_0']

我需要使用 numpy.savez而不是 numpy.save因为我想存储额外的数据。

Answer 1

我有类似的问题。我得到的最大 pickle 文件是 155Mb。如果您打算添加更多数据，我建议您使用 sqlite3 或 firebase 之类的数据库。