tensorflow - 使用 tf.contrib.layers.fully_connected 在 TensorFlow 中进行正则化

Question

fully_connected有一个名为 weights_regularizer 的命名参数接受 tf.contrib.layers 提供的正则化器，但是不清楚训练器是否能够找到这些正则化损失张量，或者我们是否必须手动将它们添加到总损失中。

有人可以提供一个使用 fully_connected 进行正则化的例子吗？ ?

Answer 1

正则化器的输出被添加到一个名为 REGULARIZATION_LOSSES 的集合中。 (该层使用正则化器调用 model_variable)。

你必须添加REGULARIZATION_LOSSES的内容到你自己的损失。获取 REGULARIZATION_LOSSES 中的所有张量收藏、使用 tf.get_collection(tf.GraphKeys.REGULARIZATION_LOSSES) .