tensorflow - 如何分析TensorFlow网络？

Question

有没有一种方法可以计算TensorFlow网络中每个节点的时间成本？
我发现很难找到性能瓶颈。

编辑:Timeline探查器确实很棒(https://stackoverflow.com/a/37774470/3632556)。

Answer 1

如果要查找在TF上的每个操作花费了多少时间，则可以使用runtime statistics在tensorboard中完成此操作。您将需要执行以下操作(请查看上述链接中的完整示例):

run_options = tf.RunOptions(trace_level=tf.RunOptions.FULL_TRACE)
run_metadata = tf.RunMetadata()
sess.run(<values_you_want_to_execute>, options=run_options, run_metadata=run_metadata)
your_writer.add_run_metadata(run_metadata, 'step%d' % i)

比只打印它更好的是，您可以在tensorboard中看到它:

Additionally, clicking on a node will display the exact total memory, compute time, and tensor output sizes.

现在tensorflow也有一个 debugger。这是有关如何使用它的教程。