tensorflow - 是否可以在一个 GPU 上同时训练 pytorch 和 tensorflow 模型？

Question

我有一个 pytorch 模型和一个 tensorflow 模型，我想在一个 GPU 上一起训练它们，遵循以下过程:input --> pytorch model--> output_pytorch --> tensorflow model --> output_tensorflow --> pytorch model .

有可能做到这一点吗？如果答案是肯定的，我会遇到什么问题吗？

提前致谢。

Answer 1

我还没有这样做，但这是可能的，但实现可能会有点。
您可以将每个网络视为一个函数，您希望 - 在某种意义上 - 组合这些函数以形成您的网络，为此您可以通过将一个网络的结果提供给另一个网络然后使用链式规则来计算最终函数计算导数(使用来自两个包的符号微分)。

我认为实现这一点的一个好方法可能是将 TF 模型包装为 PyTorch Function并使用 tf.gradients用于计算反向传播。
进行梯度更新真的很困难(因为 TF 的计算图中存在一些变量)您可以将 TF 变量转换为 PyTorch Variable把它们变成 placeholde s 在 TF 计算图中，将它们输入 feed_dict并使用 PyTorch 机制更新它们，但我认为这真的很难做到，相反，如果您在函数的向后方法中进行更新，您可能能够完成这项工作(它真的很丑，但可能会完成这项工作)。