tensorflow - 在没有安装 Tensorflow 的情况下运行 Tensorflow 模型

Question

我有一个运行良好的 TF 模型，它是用 Python 和 TFlearn 构建的。有没有办法在另一个系统上运行这个模型而不安装 Tensorflow？它已经经过预训练，所以我只需要通过它运行数据。

我知道 tfcompile ( Thread here )，但设置起来似乎相当复杂。有没有其他选择？

Answer 1

 Is there a way to run this model on another system without installing Tensorflow on it? It is already pre-trained, so I just need to run data through it.

是

在您训练好模型之后。使用 tf.python.tools.freeze_graph和 tf.python.tools.optimize_for_inference_lib卡住和优化模型以在其他设备(如 Android)上进行推理。

上面的输出将是

卡住图 protobuf 文件 (.pb)

优化的图形 protobuf 文件 (.pb)

[这些函数会将模型的所有变量转换为常量操作并导出到 protobuf 文件]

使用优化的图形 protobuf 文件并使用 Java 和其他 Tensorflow API 中可用的推理方法加载它。传递数据并获得输出。

[请注意，您没有安装完整的 Tensorflow，但您只需要推理库]

这里演示了一个简单的例子:

https://omid.al/posts/2017-02-20-Tutorial-Build-Your-First-Tensorflow-Android-App.html

它适用于 Android，但程序应该与 Java 相同。

对于 C++: click here