python - 使用 Google 协作中的所有可用 RAM 后，您的 session 崩溃

Question

我有 6 个大数据 tsv 文件，我正在将这些文件读入 Google Collab 中的数据帧。但是，文件太大，Google Colab 无法处理。

#Crew data
downloaded = drive.CreateFile({'id':'16'}) 
downloaded.GetContentFile('title.crew.tsv') 
df_crew = pd.read_csv('title.crew.tsv',header=None,sep='\t',dtype='unicode')

#Ratings data
downloaded = drive.CreateFile({'id':'15'}) 
downloaded.GetContentFile('title.ratings.tsv') 
df_ratings = pd.read_csv('title.ratings.tsv',header=None,sep='\t',dtype='unicode')


#Episode data
downloaded = drive.CreateFile({'id':'14'}) 
downloaded.GetContentFile('title.episode.tsv') 
df_episode = pd.read_csv('title.episode.tsv',header=None,sep='\t',dtype='unicode')

#Name Basics data
downloaded = drive.CreateFile({'id':'13'}) 
downloaded.GetContentFile('name.basics.tsv') 
df_name = pd.read_csv('name.basics.tsv',header=None,sep='\t',dtype='unicode')

#Principals data
downloaded = drive.CreateFile({'id':'12'}) 
downloaded.GetContentFile('title.pricipals.tsv') 
df_principals = pd.read_csv('title.pricipals.tsv',header=None,sep='\t',dtype='unicode')

#Title Basics data
downloaded = drive.CreateFile({'id':'11'}) 
downloaded.GetContentFile('title.basics.tsv') 
df_title = pd.read_csv('title.basics.tsv',header=None,sep='\t',dtype='unicode')

错误:您的 session 在使用所有可用 RAM 后崩溃。运行时日志这样说:


Google Collab 如何更好地处理 Ram？我所有 tsv 文件的总大小为 2,800 MB。请指教!

Answer 1

最简单的方法是只在您使用数据时使用它并从内存中删除它。这可以通过释放垃圾收集器来强制完成(请参阅此处的线程 [https://stackoverflow.com/questions/1316767/how-can-i-explicitly-free-memory-in-python])1
如果你想在 Colab 中扩展你的 RAM，曾经有一个黑客故意让它耗尽 RAM，然后它会为你提供更高的 RAM 运行时间。也可以使用 Colab pro 在运行时 -> 更改运行时类型下选择此选项。每月 10 美元，Colab pro 很可能是您的不错选择。
我看到了这个黑客 here但简而言之，只需在 while 循环中将一些内容附加到数组中，直到 RAM 耗尽。

a = []
while 1:
    a.append("1")