gpt4 book ai didi

json - 如何获取 Spark 驱动程序指标 json?

转载 作者:行者123 更新时间:2023-12-04 22:56:24 25 4
gpt4 key购买 nike

我遵循了监控指南:
http://spark.apache.org/docs/latest/monitoring.html
配置metricsservlet,但似乎这个文档没有说任何有用的东西......

而metrics.properties 中的共同点说:

” 5.在master、worker和client中默认添加MetricsServlet作为sink
驱动程序,您可以发送 http 请求“/metrics/json”来获取所有
以 json 格式注册的指标。对于 master,请求 "/metrics/master/json"和
“/metrics/applications/json”可以单独发送以获取指标快照
实例主机和应用程序。 MetricsServlet 不能自己配置。


但是http请求url的前缀是什么?我应该在哪里提交http请求?

http://driver-node:4040/metrics/json
不响应 json,只是重定向到 Web UI...

谢谢。

最佳答案

如果您使用的是 Spark 1.2.0,则已知指标 servlet 由于 SparkContext 中的初始化排序错误而损坏( SPARK-4549 ;这是少数已知的 1.1.1 -> 1.2.0 回归之一,并记录在案在发行说明中)。有一个补丁可用于修复此问题 ( https://github.com/apache/spark/pull/3444 ),它将包含在 Spark 1.2.1 中。我们预计将在下周左右开始对 1.2.1 候选版本进行投票,因此您可以期待一个包含此修复程序的维护版本。同时,您可以从 master 自己构建 Spark。或 branch-1.2分支或使用没有此问题的早期版本的 Spark(例如 Spark 1.1.1)。

关于json - 如何获取 Spark 驱动程序指标 json?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28083597/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com