gpt4 book ai didi

scala - 累加器未显示在 Spark UI 中

转载 作者:行者123 更新时间:2023-12-02 03:26:11 25 4
gpt4 key购买 nike

我已经实现了累加器来查看代码中的事件计数。但我在 Spark UI 中看不到它们。我正在使用以下东西:

val  count_Of_2317508_1 = sc.longAccumulator("count_Of_2317508_1")
count_Of_2317508_1.add(1)

在某些条件下。

这足以让它显示在 Spark UI 上吗?

最佳答案

您可以创建带有或不带有名称的累加器,但只能是 named accumulators显示在 Web UI 中(在给定阶段的“阶段”选项卡下)。

由于您已经创建了命名累加器,它应该会出现。

val counter = sc.longAccumulator("counter")

enter image description here

关于scala - 累加器未显示在 Spark UI 中,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53346732/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com