docker - 如何为多个模型使用 tensorflow 服务

Question

如何使用多个 tensorflow楷模？
我使用码头容器。

model_config_list: {

  config: {
    name: "model1",
    base_path: "/tmp/model",
    model_platform: "tensorflow"
  },
  config: {
     name: "model2",
     base_path: "/tmp/model2",
     model_platform: "tensorflow"
  }
}

Answer 1

从官方 tensorflow serving 构建了一个 docker 镜像docker file

然后在docker镜像里面。

/usr/local/bin/tensorflow_model_server --port=9000 --model_config_file=/serving/models.conf

这里 /serving/models.conf与您的文件类似。