python - 在客户的基础设施上部署 Tensorflow 应用程序

Question

我目前正在使用 Tensorflow 开发一个预测模型，我的模型对客户来说效果很好，所以我想把它变成一个真正的产品。

随着时间的推移，我的模型需要使用客户的输入进行重新训练，并且应该部署在客户的基础设施上。 (不是 SaaS 或云。)此外，我想保护我的代码和模型。

根据我对Tensorflow的理解，训练好的模型可以导出为protobuf，卡住并保留预测所需的节点。 freeze_graph.py at Tensorflow repo,我试过了，我成功地使用 Golang + libtensorflow.so 运行时运行了我的预测模型。 (或者，我可以使用 Tensorflow Serving 和 C++)

如果我可以在我们公司的基础设施上训练我的模型，我可以说“好吧，让我们喝点啤酒”。但是，我的模型必须在客户的基础设施上进行训练，没有 python 代码，我似乎无法训练我的模型。

https://www.tensorflow.org/versions/r0.12/how_tos/language_bindings/index.html

At this time, support for gradients, functions and control flow operations ("if" and "while") is not available in languages other than Python. This will be updated when the C API provides necessary support.

在不暴露 python 代码或模型的情况下部署 TF 应用程序是否有任何解决方法？提前致谢。

Answer 1

您仍然可以将 Python 与预训练模型一起使用，而无需首先公开构建模型所需的所有代码。作为这方面的一个例子，看一下 Inception 再训练代码，它加载一个预训练的 GraphDef 然后再训练一个新的顶层: https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/image_retraining/retrain.py