tensorflow - 如何在 tensorflow 的发行版中使用 Tensorflow XLA AOT 支持

Question

Tensorflow 1.0 引入了 XLA 支持，包括 JIT 编译和 AOT 编译。对于 JIT 编译，我找到了一个可以对其进行单元测试的 python 测试脚本。但是，我还没有找到任何用于 AOT 编译的 python 测试。不过有 bazel 测试，可以在源代码树上运行。Tensorflow 的链接 https://www.tensorflow.org/performance/xla/tfcompile提供有关如何测试的信息。但是tfcompile并没有把tensorflow的分发内容做成。我在这里可能是错的。但是我在安装它的 TF 分发目录中的任何地方都看不到 tfcompile。谁能帮助我了解如何在现有分发内容上测试 AOT 编译，或者我需要调整代码中的某些内容以允许 AOT 内容进入分发？提前致谢。

Answer 1

我知道您专门询问有关 AOT 的问题，但我建议您先阅读此页面:https://www.tensorflow.org/performance/xla/

然后阅读这一篇:https://www.tensorflow.org/performance/xla/jit

特别注意 XLA 不包含在我们的二进制发行版中；您现在必须从源代码构建。请注意，您必须在运行 ./configure 时选择“启用 XLA”才能启用 XLA 支持。

完成后，Yaroslav Bulatov 的建议就是正确的；您可以自己构建二进制文件，或通过 bazel 运行测试。