tensorflow - 获取 Tensorflow Serving 中暴露模型的信息

Question

一旦我有一个为多个模型提供服务的 TF 服务器，有没有办法查询这样的服务器以了解提供哪些模型？

那么是否有可能获得有关每个此类模型的信息，例如名称、接口(interface)，甚至更重要的是，服务器上存在哪些模型版本并且可能提供服务？

Answer 1

很难找到有关此的一些信息，但有可能获得一些模型元数据。

request = get_model_metadata_pb2.GetModelMetadataRequest()
request.model_spec.name = 'your_model_name'
request.metadata_field.append("signature_def")
response = stub.GetModelMetadata(request, 10)
    
print(response.model_spec.version.value)
print(response.metadata['signature_def'])

希望能帮助到你。
更新
是否可以从 REST API 获取这些信息。刚刚明白

http://{serving_url}:8501/v1/models/{your_model_name}/metadata

结果是 json，您可以在其中轻松找到模型规范和签名定义。