- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我有一个服务器应用程序,当客户请求时,我会安排一些工作,比如
def work():
time.sleep(5)
fut = asyncio.get_event_loop().run_in_executor(None, work)
我 await fut
稍后当明确请求时。我的用例要求 run_in_executor
立即提交 work
函数,这在我的环境(Ubuntu 16.04、Python 3.7.1)中的表现符合预期。
由于我的应用程序依赖于此行为,所以我想验证它不会发生变化,因此我检查了几个资源:
asyncio.Future
。run_in_executor
是协程。run_in_executor
是返回可等待对象的函数还是协程本身似乎被视为实现细节。参见 25675和 32327 .AbstractEventLoop.run_in_executor
被指定为协程,但在BaseEventLoop.run_in_executor
中实现是一个简单的函数。1 和 2 似乎主要表明当前行为是正确的,但 3 和 4 是令人担忧的。这似乎是接口(interface)的一个非常重要的部分,因为如果函数本身是协程,那么它不会开始执行(因此不会安排工作)直到它被等待。
依赖当前行为是否安全?如果是这样,将 AbstractEventLoop.run_in_executor
的接口(interface)改为普通函数而不是协程是否合理?
最佳答案
My use case requires that
run_in_executor
submit the work function immediately, and that behaves as expected in my environment
documentation 不保证当前行为不 ,它只指定函数 arranges 为 func
调用,并且它返回一个 awaitable。如果它是用协程实现的,它将在事件循环运行之前不会提交。
但是,此行为自 the beginning 以来一直存在并且在未来极不可能改变。延迟提交,尽管文档在技术上允许,但会破坏许多现实世界的异步应用程序,并构成严重的向后不兼容的更改。
如果您想确保任务启动时不依赖于未记录的行为,您可以创建自己的等同于 run_in_executor
的函数。真的boils down结合executor.submit
和 asyncio.wrap_future
.没有多余的装饰,它可以像这样简单:
def my_run_in_executor(executor, f, *args):
return asyncio.wrap_future(executor.submit(f, *args))
因为函数中直接调用了executor.submit
,所以这个版本保证了worker函数的启动,而无需等待事件循环运行。
PEP 3156明确声明 run_in_executor
是“等同于 wrap_future(executor.submit(callback, *args))
”,从而提供所需的保证——但 PEP 不是官方文档,最终的实现和规范通常与最初的 PEP 不同。
如果坚持使用 run_in_executor
的文档化接口(interface),也可以使用显式同步来强制协程等待 worker 启动:
async def run_now(f, *args):
loop = asyncio.get_event_loop()
started = asyncio.Event()
def wrapped_f():
loop.call_soon_threadsafe(started.set)
return f(*args)
fut = loop.run_in_executor(None, wrapped_f)
await started.wait()
return fut
fut = await run_now(work)
# here the worker has started, but not (necessarily) finished
result = await fut
# here the worker has finished and we have its return value
这种方法引入了不必要的实现和接口(interface)复杂性,特别是需要使用 await
来获得 future,这与 asyncio 的正常工作方式背道而驰。 run_now
仅用于完整性目的,我不建议在生产中使用它。
关于python - asyncio.run_in_executor 是否指定不明确?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/54263558/
我如何设置一个阻塞函数在执行器中运行,以一种结果无关紧要的方式,这样主线程不应该等待或被它减慢。 老实说,我不确定这是否是正确的解决方案,我想要的只是将某种类型的处理队列与主进程分开,这样它就不会阻止
我觉得 run_in_executor() asyncio的方法图书馆属于loop目的。 特别是,如果我选择以“通常”的方式在异步事件循环旁边运行第二个线程,会有什么不同,作者是 import thr
概览 我正在尝试并行化一个文本分类项目,该项目肯定需要很长时间才能完全串行运行。我已经尝试了这两种可能的变体,我相信它们的功能相似,并且对我在资源监视器中看到的每种结果很好奇。 第一个解决方案 我尝试
我有一个服务器应用程序,当客户请求时,我会安排一些工作,比如 def work(): time.sleep(5) fut = asyncio.get_event_loop().run_in_e
如何在使用 run_in_executor 调用的 run_long_thing() 函数中引发异常?看起来像是被吞噬了一样。我不需要阻塞代码中函数的结果。它基本上是一个即发即忘的功能,但如果有任何异
如何终止 loop.run_in_executor与 ProcessPoolExecutor优雅?启动程序后不久,发送 SIGINT (ctrl + c)。 def blocking_task():
全部! 我需要向 Web 服务发出大约 10,000 个请求,并且我希望得到 JSON 响应。由于请求是相互独立的,所以我想并行运行它们。我认为 aiohttp 可以帮助我解决这个问题。我编写了以下代
我想运行一个使用协程和多线程请求 URL 的服务。但是我无法将协程传递给执行器中的工作人员。有关此问题的最小示例,请参阅下面的代码: import time import asyncio import
我正在尝试在 concurrent.futures 的帮助下同时发送 POST 请求。由于某种原因,我无法设置自定义 header 。我要设置 授权 内容类型 这是我到目前为止所取得的进展。 impo
我正在使用 asyncio 来运行一段这样的阻塞代码: result = await loop.run_in_executor(None, long_running_function) 我的问题是:我
我正在尝试将参数传递给 run_in_executor,如下所示: loop.run_in_executor(None, update_contacts, data={ 'em
我正在试用 asyncio,并且必须将它与一些普通的多线程阻塞代码混合使用,因此我需要使用 run_in_exector 卸载执行。 asyncio docs warn that "most func
我对 Python Tornado 很陌生,并且一直在尝试启动一个新线程来运行一些 IO 阻塞代码,同时允许服务器继续处理新请求。我一直在阅读,但似乎仍然无法弄清楚这两个功能之间有什么区别? 例如调用
我编写了一个基准实用程序来批量查询 REST 端点。它通过三种方式实现: 依次使用请求库, 同时使用请求库,但使用 loop.run_in_executor() 包装每个请求, 同时使用 aiohtt
我指的是this repo是为了让mmaction2 grad-cam demo从短视频离线推理适配到长视频在线推理。脚本如下所示: 注意:为了使这个脚本可以很容易地重现,我注释掉了一些需要很多依赖的
问题重现环境: 操作系统:Windows 10(主机) 中央处理器:8 python :3.6.6 游戏版本:1.9.4 “构建器”:cx_Freeze 版本 5.1.1 问题未重现的环境: 操作系统
我正在用 Python 试验我的第一个小型爬虫,我想使用 asyncio 同时获取多个网站。我已经编写了一个与 aiohttp 一起使用的函数,但是由于 aiohttp.request() 不执行 j
我正在通过默认的 asyncio 事件循环运行函数 provision_ec2_node() thread executor .该函数采用一些参数,我通过 functools.partial() 将这
我是一名优秀的程序员,十分优秀!