python - 在神经网络中关闭或忽略 pytorch 中的神经元

Question

我想构建一个前馈神经网络并在一小部分输入特征上对其进行训练(以过度拟合)。为此，我使用了 dropout 正则化，因为它遵循小部分训练逻辑，然后在整个特征上测试模型(在训练期间关闭并打开测试)。

但由于我对过度拟合很感兴趣，所以我认为 dropout 对我来说不是一个好的解决方案。那么我如何才能在训练期间以与 Dropout 正则化相同的方式关闭一些输入节点，但这次我不想随机关闭它们，而是选择在训练期间忽略哪些特征？

Answer 1

你可以这样做:

for param in model.parameters():
  param.requires_grad = False

关闭模型中的图层