gpt4 book ai didi

apache-spark - oozie 工作流触发特定队列上的启 Action 业

转载 作者:行者123 更新时间:2023-12-03 20:31:45 25 4
gpt4 key购买 nike

我有一个 oozie 配置:

 <spark xmlns="uri:oozie:spark-action:0.1">
<job-tracker>${jobTracker}</job-tracker>
<name-node>${nameNode}</name-node>
<configuration>
<property>
<name>mapred.job.queue.name</name>
<value>batch_2</value>
</property>
<property>
<name>job.queue.name</name>
<value>batch_1</value>
</property>

</configuration>
<master>yarn-cluster</master>
<mode>cluster</mode>
<name>Batch Search Oozie</name>
<class>eu.inn.ilms.batchSearch.BatchSearch</class>
<jar>hdfs:///user/oozie/workflows/batchsearch/lib/batchSearch-0.0.1-SNAPSHOT.jar
</jar>
<arg>${zookeeperQuorum}</arg>
<arg>${solrQuery}</arg>
<arg>${hdfsFolderPaths}</arg>
<arg>${solrFinalCollection}</arg>
<arg>${mongoServiceUrl}</arg>
</spark>

map-reduce 作业在我想要的队列上执行。
但是 spark 作业仍然默认执行。是否有允许我设置的属性?

最佳答案

使用 spark-opts标签:

<spark-opts> --queue ${queue_name} </spark-opts>

关于apache-spark - oozie 工作流触发特定队列上的启 Action 业,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45055389/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com