tensorflow - 将 TensorFlow 模型部署为 Windows exe

Question

我想使用 Tensorflow 1.4 来满足我的 ML 建模需求。我的用例需要:

在 GPU 上训练模型 <--- 我知道如何使用 TF

在普通盒子上部署训练好的模型 - 作为 .exe 在 中央处理器 运行 window (用于推理)<----
我不知道该怎么做。

有人可以告诉我 TF 1.4 是否支持这一点，如果支持，请给我指一个指南或解释它是如何完成的？

Answer 1

这有点晚了，但是这个video在 youtube 上很好地涵盖了它。

他使用 pyinstaller 来获取所需的所有内容，并将其全部放入一个可执行文件中，或者将其放入一个包含 exe 文件和其他内容的文件夹中。

我自己尝试过，效果很好，尽管由于 pyinstaller 将所需的所有内容粉碎到一个非常大的文件夹中，它包括整个 tensorflow 库、python 解释器，如果你使用 tensorflow-gpu，它还包括 cudnn 文件以及 600mb 的大小，最终有效地为您留下超过 1gb 的文件。
这可以通过排除不需要的模块来减少，我建议创建一个虚拟环境并从全新安装 python 开始。

希望这无论如何都会有所帮助。