tensorflow - 为 TensorFlow Serving REST API 生成实例或输入

Question

我已准备好基于保存的模型试用我的 TensorFlow Serving REST API，并且想知道是否有一种简单的方法来生成我需要与我的 request 一起发送的 JSON 实例(基于行)或输入(列式)。

我的模型中有几千个功能，我不想手动输入 JSON。有没有一种方法可以使用现有数据来提出我可以在预测 API 中抛出的序列化数据？

我在整个管道中使用 TFX(包括 tf.Transform)，所以我不确定 TFX 中是否有我可以使用的简洁方法。
saved_model_cli 的输出是这样的:

The given SavedModel SignatureDef contains the following input(s):
  inputs['examples'] tensor_info:
      dtype: DT_STRING
      shape: (-1)
      name: input_example_tensor:0

这并没有告诉我太多。

Answer 1

您可以使用 Python REST 客户端以编程方式进行调用，而不是手动编写请求。这是 tensorflow_serving github 中的示例代码:

https://github.com/tensorflow/serving/blob/master/tensorflow_serving/example/resnet_client.py