python 叉(): passing data from child to parent

Question

我有一个 Python 主进程，以及由主进程使用 os.fork() 创建的一组或多个 worker .

我需要将大型且相当复杂的数据结构从工作程序传递回主进程。您会为此推荐哪些现有库？

数据结构是列表、字典、numpy arrays 的混合体、自定义类(我可以调整)和上述的多层组合。

应避免磁盘 I/O。如果我还可以避免创建数据副本——例如通过某种共享内存解决方案——那也很好，但这不是硬约束。

出于这个问题的目的，必须使用 os.fork() 或克隆主进程地址空间的包装器来创建工作人员。

这只需要在 Linux 上工作。

Answer 1

multiprocessing 的队列实现有效。在内部，它将数据腌制到管道。

q = multiprocessing.Queue()
if (os.fork() == 0):
    print(q.get())
else:
    q.put(5)
# outputs: 5