multithreading - 在TensorFlow优化器中use_locking = True有什么作用？

Question

它只是防止异步更新还是还会导致对该变量的其他访问以等待更新？我同时使用相同的模型进行训练和推理，并希望确保始终在一致的模型上进行推理。

Answer 1

在创建TensorFlow optimizer或变量assignment op时传递use_locking=True会导致围绕变量的相关更新获取锁定。同样使用use_locking=True创建的同一变量的其他优化器/分配也将被序列化。

但是，使用此选项时，请记住两个注意事项:

不会在锁定下执行对变量的读取，因此可以查看中间状态和部分应用的更新。序列化读取需要额外的协调，例如tf.train.SyncReplicasOptimizer提供的协调。

仍然可以使用use_locking=False写入(优化程序/赋值)相同的变量，并且不会获取该锁。程序员负责确保不会发生这些写操作。