- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
作为我的一个程序的一部分,我想捕获任何MemoryError
并记录它们。目前,我正在使用 traceback.format_exception
来格式化所有其他异常;我也想为 MemoryError
这样做。
但是,使用format_exception
需要占用更多的内存,这正是我在内存不足时无法做到的。
做什么?
当我抛出一个 MemoryError
除了终止之外我还能做什么?理想情况下,我会记录它们,然后在假设释放处理程序和 thrower* 之间的堆栈部分已经释放足够的内存让我这样做的情况下恢复程序。
(* 还有那些堆对象仅通过从该堆栈部分发出的引用保持事件状态)
最佳答案
它确实与“堆栈”关系不大。当系统 malloc()
(或类似的平台函数)返回 NULL
时,Python 引发 MemoryError
。在那种情况下,实际上并没有分配新的内存!因此,与触发 MemoryError
的请求之前一样多的剩余可用内存。例如,在 32 位机器上的交互式 shell 中:
>>> x = [None] * 10**9
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
MemoryError
>>>
那是无害的。是的,在现实的程序中,其他内存可能会随着堆栈展开而被释放。
但是,如果再次尝试相同(或类似)任务时“只是继续”不会导致另一个 MemoryError
,那么您的程序一定有一些不寻常的地方。最明智的做法确实通常是退出程序并重新开始。
@FredMitchell 保留一些“紧急内存”的想法可能值得追求。例如,
emergency = 'x' * 10**7
消耗大约 10 MB(在 Python 2 中),大部分在“一大块”中,您的处理程序可以做到
emergency = ""
将其释放回系统。然后 malloc()
将有一个新的 10MB 的连续 block 可以使用。
但是,最终,我敢打赌,戒烟会容易得多 ;-)
关于python - 如何记录 python MemoryError(当我内存不足时),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19469608/
我试图在一个非 Django 特定的共享虚拟主机上部署 Django。 Host 提供旧版本的 python 安装,但由于我有 ssh 访问能力,我设法通过在我的主文件夹中本地安装它们来使用我需要的模
我是初学者。我最近看到 Mandelbrot set 太棒了,所以我决定用 python 绘制这个集合。但是有一个问题,当我运行这段代码时出现“内存错误”。 这条语句 num_set = gen_nu
假设以下情况:我得到了一个双模网络的邻接矩阵,其中一个维度代表一些项目(帖子)和每个项目下出现的其他标签。现在我想折叠那个双模式网络以获得一个单模式网络的项目到项目关系,其中每个链接的值代表两个项目的
我正在尝试通过从文件中读取数据来绘制具有多种颜色的热图。我可以很好地生成 2D 和法线热图,但无法像附加图像那样绘制。当使用随机数时,我可以绘制它但是在从文件中读取数据时它显示错误。 上面的热图是用随
我正在尝试从维基百科文本数据中训练word2vec模型,因为我正在使用以下代码。 import logging import os.path import sys import multiproces
处理.xml文件= 1,45 Gb时出现MemoryError错误。我试图在一个较小的文件上运行它,并且它可以工作,因此代码中不应有任何错误。该代码本身意味着打开一个xml文件,在其中做一些事情并将其
当我尝试使用以下代码在大型数据帧上删除重复的时间戳时,出现了 MemoryError。 import dask.dataframe as dd path = f's3://{container_nam
尝试分割非常大的字符串时出现内存错误。 data = load_data(file_name) # loads data string from file splited_data = data.sp
我需要扫描两个大的 txt 文件(都是大约 100GB,10 亿行,几列)并取出某一列(写入新文件)。文件看起来像这样 ID*DATE*provider 1111*201101*1234 1234*2
我在第 3 轮 nfind(while 循环)中执行的代码有什么问题,返回符合 CACHE[sha] = number 的 MemoryError?在系统上有足够的内存,并且在 while 循环的每一
我试图避免在我的 mp3 收藏中重复(非常大)。我想通过检查文件内容来检查重复项,而不是查找相同的文件名。我已经编写了下面的代码来执行此操作,但它会在大约一分钟后抛出 MemoryError。关于如何
我正在尝试编写一个程序来计算给定字符串 s 中字符 'a' 的出现次数,只考虑第一个 字符串的 n 个字符。如果字符串的长度小于数字 n,例如 s = "abca" 和 n = 10,则 s 应该变成
我的环境是 Python 3.6 64 位和 64 位 win 10 16GB 内存。 我有一个形状为 (260923,) 的 ndarray。我想找到大于阈值的所有元素的索引。我正在使用这段代码,但
我遇到了一个奇怪的MemoryError,我不明白它为什么会出现。代码示例: # some setup import numpy as np import pandas as pd import ra
我正在尝试处理一个 3GB 的 XML 文件,并且在读取文件并将一些数据存储在字典中的循环中间出现内存错误。 class Node(object): def __init__(self, os
我正在处理一个包含大数据的项目,在运行我的脚本时经常遇到 MemoryError。它在我的脚本读取的文件列表上包含一个循环,在 3 或 4 个文件之后,出现此错误。 我想写这样的东西: with op
我正在尝试对一堆图像(>40k)执行平均缩放。当我将大小为 (3,256,256) 的图像读入 np 数组时,内存使用率为 %40(60 GB 中,使用 htop 检查)。但是,当我运行 arr.st
我有一个小的 Python (2.7.10) 脚本,您可以在下面看到它。 def numbers_calc(max_num, num_step): """Returns every numbe
我正在编写一个 python 脚本来读取两个 csv 文件。代码片段如下。如果文件包含少量记录(8,000 条),则代码可以完美运行,但是如果文件包含大量记录(120,000 条),我会在线上遇到 M
我有一段 python 代码会在一段时间后生成一个 MemoryError。我知道它会消耗大量内存。因此,我决定将代码放在 try/except block 中,这样框架看起来如下所示: while
我是一名优秀的程序员,十分优秀!