gpt4 book ai didi

apache-spark - 使用 Spark-submit 时禁用 Ivy Logging

转载 作者:行者123 更新时间:2023-12-04 16:10:13 55 4
gpt4 key购买 nike

调用 Spark-submit 将导致默认的 Ivy 日志显示获取的包。虽然与首次启动相关,但缓存策略通常会使使用缓存命中记录日志变得没那么有用。

禁用日志的最佳方法是什么?

不想看到这样的东西:

Ivy Default Cache set to: /root/.ivy2/cache
The jars for the packages stored in: /root/.ivy2/jars
:: loading settings :: url = jar:file:/usr/local/spark-2.0.2-bin-hadoop2.4/jars/ivy-2.4.0.jar!/org/apache/ivy/core/settings/ivysettings.xml
com.amazonaws#aws-java-sdk added as a dependency
org.apache.hadoop#hadoop-aws added as a dependency
...

最佳答案

尝试将此添加到 conf/log4j.properties 以禁用所有以 org 开头的包的所有日志记录,其中包括 Spark 和 Ivy:

log4j.logger.org=OFF

我没试过这个,但我猜这只会禁用 Ivy 日志记录:

log4j.logger.org.apache.ivy=OFF

关于apache-spark - 使用 Spark-submit 时禁用 Ivy Logging,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/43597377/

55 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com