python - 大pandas DataFrames上的外部合并导致MemoryError——如何与pandas进行 "big data"合并？

Question

我有两个 pandas DataFrames df1 和 df2 ，具有相当标准的格式:

   one  two  three   feature
A    1    2      3   feature1
B    4    5      6   feature2  
C    7    8      9   feature3   
D    10   11     12  feature4
E    13   14     15  feature5 
F    16   17     18  feature6 
...

与 df2 的格式相同。这些 DataFrame 的大小约为 175MB 和 140 MB。

merged_df = pd.merge(df1, df2, on='feature', how='outer', suffixes=('','_features'))

我收到以下内存错误:

File "/nfs/sw/python/python-3.5.1/lib/python3.5/site-packages/pandas/tools/merge.py", line 39, in merge
    return op.get_result()
File "/nfs/sw/python/python-3.5.1/lib/python3.5/site-packages/pandas/tools/merge.py", line 217, in get_result
    join_index, left_indexer, right_indexer = self._get_join_info()
File "/nfs/sw/python/python-3.5.1/lib/python3.5/site-packages/pandas/tools/merge.py", line 353, in _get_join_info
    sort=self.sort, how=self.how) 
File "/nfs/sw/python/python-3.5.1/lib/python3.5/site-packages/pandas/tools/merge.py", line 559, in _get_join_indexers
    return join_func(lkey, rkey, count, **kwargs)
File "pandas/src/join.pyx", line 187, in pandas.algos.full_outer_join (pandas/algos.c:61680)
  File "pandas/src/join.pyx", line 196, in pandas.algos._get_result_indexer (pandas/algos.c:61978)
MemoryError

合并时 pandas 数据帧是否可能存在“大小限制”？我很惊讶这行不通。也许这是某个版本的 pandas 中的错误？

编辑:正如评论中提到的，合并列中的许多重复项很容易导致 RAM 问题。请参阅:Python Pandas Merge Causing Memory Overflow

现在的问题是，我们如何进行合并？看来最好的方法是以某种方式对数据帧进行分区。

Answer 1

您可以尝试先按unique过滤df1值，合并和最后一个 concat输出。

如果只需要外连接，我认为也存在内存问题。但是如果添加一些其他代码来过滤每个循环的输出，它就可以工作。

dfs = []
for val in df.feature.unique():
    df1 = pd.merge(df[df.feature==val], df2, on='feature', how='outer', suffixes=('','_key'))
    #http://stackoverflow.com/a/39786538/2901002
    #df1 = df1[(df1.start <= df1.start_key) & (df1.end <= df1.end_key)]
    print (df1)
    dfs.append(df1)

df = pd.concat(dfs, ignore_index=True)
print (df)

<小时/>

其他解决方案是使用 dask.dataframe.DataFrame.merge .