gpt4 book ai didi

python - CNTK中的分布式系统使用哪个管道?

转载 作者:太空宇宙 更新时间:2023-11-03 13:58:51 25 4
gpt4 key购买 nike

我是 Microsoft CNTK 新手

Google Tensorflow 使用 grpc 与每台机器进行通信,但我不知道 CNTK 中的分布式系统使用哪个管道,你能告诉我吗?

您能给我一些关于多机器、多 GPU 示例的引用或网站吗?我已经去过这个site ,但我找不到多机信息或代码。

谢谢! :)

最佳答案

这在各个版本中都发生了变化,但最新的信息是 Linux 和 GPU 下的二进制版本是使用 Nvidia 的 NCCL 2 库(自版本 2.3 起)构建的,而在 Windows 下它们是使用 MS-MPI 构建的。其他版本是使用 OpenMPI 构建的。

您链接到的页面包含大量信息,尤其是在以下部分中关于the necessary changes to your Python script (它们是最小的)和 how to invoke it .

关于python - CNTK中的分布式系统使用哪个管道?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49399851/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com