c++ - 如何使用 C++ 为 tensorflow 加载检查点和推理？

Question

我有带 python api 的 Tensorflow 并获得了这些检查点模型文件:

model.ckpt-17763.data-00000-of-00001
model.ckpt-17763.index
model.ckpt-17763.meta

但在集成到生产环境时我想要一个 C/C++ 共享库(.so 文件)。所以我需要加载这些模型文件并使用 C++ 代码进行推理并编译为共享库。是否有一些教程或示例可以执行此操作？

Answer 1

您可以按照 here 给出的说明编写 C++ 代码来加载和使用您的图表。

您可以使用文件 here 在 TF 存储库之外使用 tensorflow 创建一个 Cmake 项目，并编译您的库。

但是，您仍然需要 .so 旁边的 .ckpt 文件，我不知道如何将它们集成到其中。

关于 S.O. 和一些教程(参见 this answer 中引用的两个)有很多问题，但是由于 tensorflow 发展很快，它们很快就过时了，要让它工作总是有点困难正确(完全可行，而且越来越容易)。