python - 使用 TorchScript 类作为 pytorch 模块中的成员

Question

我试图让一些现有的 pytorch 模型支持 TorchScript jit 编译器，但我遇到了非原始类型成员的问题。

这个小例子说明了这个问题:

import torch

@torch.jit.script
class Factory(object):
    def __init__(self):
        pass

    def create(self, x: float) -> torch.Tensor:
        return torch.tensor([x])

class Foo(torch.nn.Module):
    def __init__(self):
        super(Foo, self).__init__()
        self.factory: Factory = Factory()

    def forward(self, x: torch.Tensor) -> torch.Tensor:
        return self.factory.create(0)

mod = torch.jit.script(Foo())

运行时，jit编译报错

RuntimeError:
module has no attribute 'factory':
at example.py:17:15
    def forward(self, x: torch.Tensor) -> torch.Tensor:
        return self.factory.create(0)
               ~~~~~~~~~~~~ <--- HERE

我已经测试过 Factory 类可用于 forward 方法内的 jit，但是当我将它存储为成员时它不承认它。为什么是这样？有什么办法可以让 jit 编译器将这种成员保存到编译后的模块中？

Answer 1

这是 PyTorch 中的一个错误，在您发布问题后很快就解决了:https://discuss.pytorch.org/t/jit-scripted-attributes-inside-module/60645 , https://github.com/pytorch/pytorch/issues/27495 .

更新 PyTorch 应该可以解决这个问题。