gpt4 book ai didi

parsing - 如何解析Yarn日志获取性能指标?

转载 作者:行者123 更新时间:2023-12-03 17:12:28 24 4
gpt4 key购买 nike

总结:我需要东西给yarn logs -applicationId myID | parse .

我正在开发具有某种程度的并行性的代码,所以我需要关于使用的 vcores 和 RAM 内存的反馈......我有每个测试的应用程序 ID,所以,运行后我可以使用

 yarn logs -applicationId application_1581298836342_95477 > myYarnLog.txt

但它是一个大而复杂的日志,我只需要检查使用的 vcores 和内存。

有对 myYarnLog.txt 的解析,那过滤还是计算性能指标?

PS:“RAM 内存”可以是“聚合资源分配”,vcores 可以是一些虚拟 CPU 分配统计信息等。

最佳答案

在你的 yarn site.xml中类似,像here

 yarn.resourcemanager.scheduler.monitor.enable

您需要文件 capacity-scheduler.xml 中的 silimar 作为响应 here
<property>
<name>yarn.scheduler.capacity.resource-calculator</name>
<value>org.apache.hadoop.yarn.util.resource.DominantResourceCalculator</value>
</property>

关于parsing - 如何解析Yarn日志获取性能指标?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/60302265/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com