timeout - 从 TensorFlow 队列中出列项目时是否可以设置超时？

Question

我正在构建一个神经网络集成，其中每个网络从输入队列读取输入并将其预测写入输出队列，并且一个单独的客户端将新输入推送到所有输入队列，然后从每个输出队列中提取单独的预测并将它们聚合起来以产生整体的预测。

我希望系统能够适应缓慢(或崩溃)的神经网络客户端，因此我需要在从每个输出队列中拉取时设置超时。理想情况下，聚合器图会表现良好并且忽略该预测。

我发现的出队超时的唯一解决方案是在创建 session 时设置 operation_timeout_in_ms 配置选项，但这适用于图中的所有操作(对于此 session )。不是很细化。

还有其他选择吗？

Answer 1

您可以为个人设置超时 tf.Session.run()调用，当您有可能阻塞的操作(例如 dequeue())时，这是最有用的。为此，请传递可选的 tf.RunOptions 反对run()调用，并设置timeout_in_ms字段设置为所需的超时(以毫秒为单位):

op = ...  # Assume this depends on dequeuing a tensor from a queue.
sess = tf.Session()

# Set a 10-second timeout.
run_options = tf.RunOptions(timeout_in_ms=10000)
try:
  sess.run(op, options=run_options)
except tf.errors.DeadlineExceededError:  # This will be raised if the timeout expires.
  # ...