gpt4 book ai didi

hadoop - Spark程序以监视执行程序的性能

转载 作者:行者123 更新时间:2023-12-02 21:10:13 26 4
gpt4 key购买 nike

我正在研究一个 Spark 程序,该程序监视每个执行者的表现,例如记下一个执行者何时开始工作以及何时完成工作。我正在考虑两种方法来做到这一点:

首先,开发程序,以便在执行程序开始工作时,将当前时间标记为一个文件,完成后将其标记为同一文件。最后,除驱动程序计算机外,所有“日志”文件都将散布到整个群集网络中。

其次,由于执行程序将定期向驱动程序报告,因此每次驱动程序收到执行程序的消息时,如果该消息包含“开始”和“完成”信息,请让驱动程序记录所有内容。

那可能吗?

最佳答案

有很多方法可以监视执行程序性能以及应用程序性能

最好的方法是借助Spark Web UI和其他可用的开源开放式监视工具进行监视(英语)

您需要监视您的应用程序,无论您的群集是否被充分利用,您所创建的应用程序使用了多少资源。

可以使用各种工具进行监控。 Ganglia在Ganglia中,您可以找到 CPU,内存和网络使用情况。基于对CPU和内存使用情况的观察,您可以更好地了解,以便了解您的应用程序需要哪种类型的调整

希望这可以帮助!!!....

关于hadoop - Spark程序以监视执行程序的性能,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/40512130/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com