gpt4 book ai didi

cuda - 是否可以同时运行属于不同应用程序的两个内核?

转载 作者:行者123 更新时间:2023-12-04 05:11:20 25 4
gpt4 key购买 nike

我想同时运行属于两个不同 CUDA 程序的两个内核。我不希望发生上下文切换。我希望这两个程序共享设备。我的 GPU 中有 14 个 SM,一个程序使用 2 个 SM,另一个程序使用 1 个 SM。但我无法同时运行它们。第二个程序一直等到第一个程序完成执行。 GPU 设备是 nVidia Tesla M2050。使用 deviceQuery,它表示该卡支持并发内核执行(这是针对属于一个程序/进程/上下文的内核吗?)。此外,设备处于默认计算模式。它没有设置为任何独占模式。
有什么办法可以同时运行它们吗?

最佳答案

先看看https://stackoverflow.com/a/14896945/56875 .
GPU 无法在来自两个 cuda 上下文的并行内核中执行。

我以前没有尝试过,但在 linux 上你可以尝试使用 CUDA-proxy 作弊。这是一个创建单个上下文但允许其他 cuda 进程使用代理上下文的单个进程。

关于cuda - 是否可以同时运行属于不同应用程序的两个内核?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/14892755/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com