docker - 用于 Tensorflow 服务的 Prometheus

Question

使用 Prometheus 导出器进行 Tensorflow 服务的步骤是什么？根据 1.11 TF 服务支持 prometheus 指标: https://github.com/tensorflow/serving/releases/tag/1.11.0

我正在从示例 https://www.tensorflow.org/serving/docker 启动一个 docker以及以下内容:

docker 运行 -p 8501:8501 -p 8500:8500\--挂载类型=绑定(bind)，\源=/tmp/tfserving/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu,\目标=/模型/half_plus_two\-e MODEL_NAME=half_plus_two -t tensorflow /服务 &

普罗米修斯配置文件:全局的: 抓取间隔:10s 评估间隔:10s 外部标签: 监视器:'tf-serving-monitor'

scrape_configs: - 作业名称:' tensorflow ' 抓取间隔:5s 静态配置: - 目标:['localhost:8501']

但是 prometheus 无法找到 tf 服务暴露的指标。我是否应该在 docker 上打开特定端口或应该传递给 TF 服务的某些参数？

Answer 1

According to the release notes you linked to TensorFlow 在 /monitoring/prometheus/metrics 导出 Prometheus 指标(与 Prometheus 的默认 /metrics 相反)。因此，至少您需要将 metrics_path 添加到您的配置中:

scrape_configs:
  - job_name: 'tensorflow'
    scrape_interval: 5s
    metrics_path: '/monitoring/prometheus/metrics'
    static_configs:
      - targets: ['localhost:8501']

但首先请确保您可以看到在 http://localhost:8501/monitoring/prometheus/metrics 处导出的指标在您的浏览器中。否则(使用浏览器)四处寻找，直到找到正确的 URL(并将其反射(reflect)在您的配置中)。