gpt4 book ai didi

apache-spark - 在 Spark 1.4.x 中。如何使用 spark-submit 选项设置驱动程序的系统属性?

转载 作者:行者123 更新时间:2023-12-04 05:11:54 25 4
gpt4 key购买 nike

在 Spark <1.3.x 中,可以通过 --conf 选项设置驱动程序的系统属性,在设置 spark 属性和系统属性之间共享:

spark-submit --conf xxx.xxx=vvvvv

在 Spark 1.4.0 中删除了此功能,驱动程序改为记录以下警告:

Warning: Ignoring non-spark config property: xxx.xxx=vvvvv 

1.4.0如何设置驱动的系统属性?是否有理由在没有弃用警告的情况下将其删除?

非常感谢您的建议。

最佳答案

此行为在 336f7f5373e5f6960ecd9967d3703c8507e329ec 中引入,JIRA 讨论在 https://issues.apache.org/jira/browse/SPARK-7037 中.根据 JIRA 先前版本的 spark-submit 只是默默地忽略了不是以 spark. 开头的 conf 选项。您可以设置 spark.driver.extraJavaOptions 以获得您想要的选项(取决于您要完成的任务)。

关于apache-spark - 在 Spark 1.4.x 中。如何使用 spark-submit 选项设置驱动程序的系统属性?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30813220/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com