gpt4 book ai didi

caffe - 将同一网络的某些节点放在 GPU 上,将其他节点放在 CPU 上?

转载 作者:行者123 更新时间:2023-12-01 01:51:17 25 4
gpt4 key购买 nike

在 Caffe/Caffe2 中定义网络时,可以将一些节点放在 CPU 上,而将其他节点放在 GPU 上吗?如果是这样,怎么做?

(如果您的答案与特定版本的 Caffe 相关,请说明是哪个)

最佳答案

一般来说,答案是 : 你不能为每一层单独配置设备,原因是Pooya DavoodiHarsh Wardhan描述。

然而 ,如果您查看特定层,您有时可能会得到您所寻找的行为。例如,如果您的求解器配置为在 GPU 上运行,但您的网络中有一个没有 GPU 实现的层,那么该层将在 CPU 上运行(所有开销在 Harsh Wardhan's answer 中描述)。
一个这样的层是 "Python" 层:该层仅在 CPU 上运行,您可能拥有 word2vec在那里实现。
或者,您可以编写自己的层而无需 GPU 实现,确保它们仅在 CPU 上运行。

顺便说一句,您使用的是 caffe2 吗?你对他们的PATENTS还好吗?条款?!
更新 : 好像fb决定soften caffe2 的许可证。做得好!

关于caffe - 将同一网络的某些节点放在 GPU 上,将其他节点放在 CPU 上?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/44361201/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com