tensorflow - 是否可以导出语法网模型 (Parsey McParseface) 以与 TensorFlow Serving 一起使用？

Question

我的 demo.sh 工作正常，我查看了 parser_eval.py 并在某种程度上理解了它。但是，我不知道如何使用 TensorFlow Serving 来服务该模型。我可以从上面看到两个问题:

1)这些图没有导出的模型，图是在每次调用时使用图生成器(例如结构化_graph_builder.py)、上下文 Protocol Buffer 以及一大堆我不完全理解的其他东西构建的此时(它似乎还注册了额外的syntaxnet.ops)。那么...是否可能，以及如何将这些模型导出到 Serving 和 SessionBundleFactory 所需的“捆绑”形式中？如果没有，似乎需要在 C++ 中重新实现图形构建逻辑/步骤，因为服务仅在 C++ 上下文中运行。

2) demo.sh 实际上是两个模型，通过 UNIX 管道连接在一起，因此任何 Servable 都必须(可能)构建两个 session 并将数据从一个 session 编码到另一个 session 。这是正确的做法吗？或者是否可以构建一个包含两个模型“修补”在一起的“大”图并将其导出？

Answer 1

经过大量的学习、研究等之后，我最终整理了一个针对 tensorflow /模型和语法网的拉取请求，这实现了从 TF 服务中为 Parsey McParseface 提供服务的目标。

https://github.com/tensorflow/models/pull/250

这里不是实际的“服务”代码，但与解决上述问题的工作相比，这是相对微不足道的。