pytorch - 如何限制pytorch中的参数范围？

Question

所以通常在pytorch中，模型中的参数没有严格的限制，但是如果我想让它们保持在[0,1]范围内呢？有没有办法阻止参数更新到该范围之外？

Answer 1

一些生成对抗网络(其中一些要求鉴别器的参数在一定范围内)中使用的一个技巧是在每次梯度更新后钳制值。例如:

model = YourPyTorchModule()

for _ in range(epochs):
    loss = ...
    optimizer.step()
    for p in model.parameters():
        p.data.clamp_(-1.0, 1.0)