pytorch - Pytorch 线性模块类定义中的常量

Question

什么是__constants__在 pytorch class Linear(Module):定义于 https://pytorch.org/docs/stable/_modules/torch/nn/modules/linear.html ?

它的功能是什么，为什么要使用它？

我一直在四处寻找，但没有找到任何文档。请注意，这并不意味着 __constants__在火炬脚本中。

Answer 1

__constants__实际上，您正在谈论的是与 TorchScript 相关的一个。您可以使用 git blame 进行确认(何时添加以及由谁添加)在 GitHub 上。例如，对于 torch/nn/modules/linear.py ，检查它的git blame .

TorchScript also provides a way to use constants that are defined in Python. These can be used to hard-code hyper-parameters into the function, or to define universal constants.

-- Attributes of a ScriptModule can be marked constant by listing them as a member of the constants property of the class:

class Foo(torch.jit.ScriptModule):
    __constants__ = ['a']

    def __init__(self):
        super(Foo, self).__init__(False)
        self.a = 1 + 4

   @torch.jit.script_method
   def forward(self, input):
       return self.a + input