- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有一个应该永远运行的程序。这是我正在做的:
from myfuncs import do, process
class Worker(multiprocessing.Process):
def __init__(self, lock):
multiprocesing.Process.__init__(self)
self.lock = lock
self.queue = Redis(..) # this is a redis based queue
self.res_queue = Redis(...)
def run():
while True:
job = self.queue.get(block=True)
job.results = process(job)
with self.lock:
post_process(self.res_queue, job)
def main():
lock = multiprocessing.Semaphore(1)
ps = [Worker(lock) for _ in xrange(4)]
[p.start() for p in ps]
[p.join() for p in ps]
self.queue 和 self.res_queue 是两个类似于 python stdlib Queue 的对象,但它们使用 Redis 数据库作为后端。
函数过程对job携带的数据做一些处理(主要是html解析)并返回字典。
函数 post_process 通过检查一些条件将作业写入另一个 redis 队列(一次只有一个进程可以检查条件,这就是锁定的原因)。它返回真/假。
程序每天使用的内存都在增加。有人能弄清楚发生了什么吗?
当作业超出运行方法的范围时,内存应该是可用的吗?
最佳答案
Memory should be free when job get outs of scope in the run method correct?
首先,作用域是整个 run
方法,它会永远循环,因此永远不会发生这种情况。 (此外,当您退出 run
方法时,进程将关闭并且它的内存无论如何都会被释放……)
但即使它确实超出了范围,那也不意味着您似乎认为它意味着什么。 Python 不像 C++,其中变量存储在堆栈中。所有对象都存在于堆中,并且它们一直存在,直到不再有对它们的引用。超出范围的变量意味着该变量不再引用它曾经引用的任何对象。如果该变量是对该对象的唯一引用,那么它将被释放*,但如果您在其他地方进行了其他引用,则在这些其他引用消失之前,该对象无法被释放。
与此同时,超出范围并没有什么神奇之处。变量停止引用对象的任何方式都具有相同的效果——无论是变量超出范围、您对其调用 del
还是为其分配新值。因此,每次通过循环,当您执行 job =
时,您将删除之前对 job
的引用,即使没有任何内容超出范围。 (但请记住,在高峰期您将有 两个 工作,而不是一个,因为新工作在旧工作被释放之前被从队列中拉出。如果这是一个问题,您可以随时做job = None
在阻塞队列之前。)
所以,假设问题实际上是 job
对象(或它拥有的东西),问题是您没有向我们展示的一些代码在某处保留了对它的引用。
在不知道自己在做什么的情况下,很难提出修复建议。它可能只是“不要在那里存储”。或者它可能是“存储一个 weakref 而不是对象本身”。或者“添加一个 LRU 算法”。或者“添加一些流量控制,这样如果您的备份过多,您就不会继续工作,直到内存不足”。
* 在 CPython 中,这会立即发生,因为垃圾收集器是基于引用计数的。另一方面,在 Jython 和 IronPython 中,垃圾收集器仅依赖于底层 VM 的垃圾收集器,因此在 JVM 或 CLR 注意到它不再被引用之前不会释放对象,这通常不是立即的,并且是不确定的.
关于Python多处理内存增加,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25803071/
我需要从 1024 增加 FD_SETSIZE 值至 4096 .我知道最好使用 poll()/epoll()但我想了解什么是优点/缺点。主要问题是:我要重新编译glibc吗? ?我读了几个线程,其中
已关闭。这个问题是 not reproducible or was caused by typos 。目前不接受答案。 这个问题是由拼写错误或无法再重现的问题引起的。虽然类似的问题可能是 on-top
我在 HTML 文件中有这样的内容: var value = 0; add(x){ x++; do
有没有办法在用户向上滚动时增加变量,并在用户使用 JavaScript 向下滚动时减少变量?变量没有最大值或最小值,如果能够调整灵敏度就好了。我不知道从哪里开始,感谢您的帮助! 编辑:没有滚动条,因为
我是 ios 新手,遇到以下问题。 我想根据表格 View 中元素的数量增加和减少表格 View 的高度大小。如果在输入时客户端在输出时给出 3 个或超过 3 个元素,我希望看到一个比默认行大 2 行
所以我一直在四处搜索,似乎大多数人认为以下列方式递增 indexPath 是正确的方法: NSIndexPath *newIndexPath = [NSIndexPath indexPathForRo
我有一个关于 connSupervisionTimeout 的问题。 我正在使用 CoreBluetooth 编写应用程序。我检查了连接参数和 connSupervisionTimeout = 720
我正在尝试根据页面的滚动位置更改元素的填充;当用户向下滚动页面时,填充会增加,而当他们向上滚动时,填充会减少。 我的主要问题是滚动不是很流畅,有时如果我滚动到页面顶部太快,每次元素的填充大小都不一样。
我正在尝试计算 18456 个基因的相关性度量,但编译器 (Dev C) 在将宏 GENE 或 INDEX 增加到 4000 到 5000 之间的值后退出或大。例如,它适用于: # define GE
我有一个带有 position: absolute 和 CSS3 过渡的圆形元素(a 元素)。在 hover 事件中,我想增加圆的高度和宽度,但我想在所有边上添加像素,而不仅仅是在左侧或右侧。 示例如
为了改善用户体验,我计划在我网站的所有页面(A-、A、A+)上增加/减少/重置字体大小 我面临的问题是页面上不同元素使用的字体大小不统一。有些是 14px,有些是 18px,有些是 12px,有些是
本文实例讲述了Yii框架数据库查询、增加、删除操作。分享给大家供大家参考,具体如下: Yii 数据库查询 模型代码: ?
sql替换语句,用该命令可以整批替换某字段的内容,也可以批量在原字段内容上加上或去掉字符。 命令总解:update 表的名称 set 此表要替换的字段名=REPLACE(此表要替换的字段名, '原
sql不常用函数总结以及事务,增加,删除触发器 distinct 删除重复行 declare @x 申明一个变量 convert(varchar(20),t
要增加我使用的最大可用内存: export SPARK_MEM=1 g 或者我可以使用 val conf = new SparkConf() .setMaster("loca
我正在尝试将文本(自定义文本按钮)放入 AppBar 的前导属性中。但是,当文本太长时,文本会变成多行 Scaffold( appBar: AppBar( centerTi
我正在使用最新版本的 NetBeans,我需要增加输出和菜单的字体大小(不是代码部分)。我试过: netbeans_default_options=".... --fontsize 16" 但是当我将
我必须将 180000 个点绘制到一个 EPS 文件中。 使用标准 gnuplot 输出尺寸点彼此太接近,这使得它们无法区分。有没有办法增加图像的宽度和高度? 最佳答案 是的。 set termina
我有一个带有输入字段的 twitter bootstrap 3 导航栏。我想增加输入字段的宽度。我已尝试设置 col 大小,但它不起作用。 html比较长,请引用bootply http://www.
我正在尝试增加 ggplot 标题中下划线的大小/宽度/厚度。我曾尝试使用大小、宽度和长度,但没有成功。 这是我所做的一个例子。 test <- tibble(x = 1:5, y = 1, z =
我是一名优秀的程序员,十分优秀!