gpt4 book ai didi

java - OOZIE HIVE操作-工作流.xml属性不会传递给子任务

转载 作者:行者123 更新时间:2023-12-02 20:36:06 25 4
gpt4 key购买 nike

我们在oozie中采取了积极行动,并且在工作流程中覆盖了一些默认的映射属性。

由配置单元操作触发的子任务具有属性的默认值,而不是工作流中配置的值。 Jobtracker中每个子作业生成的job.xml仅显示默认值。

如何确保配置单元操作启动的所有子任务都从工作流.xml获取属性。

以下是我从工作流程.xml的 hive 操作:

<action name="Hive">
<hive>
<job-tracker>${job_tracker}</job-tracker>
<name-node>${name_node}</name-node>
<script>${wf:actionData('Query')['Location']}</script>
<param>JOBDIR=${jobDir}</param>
<configuration>
<property>
<name>oozie.launcher.mapred.child.java.opts</name>
<value>-Xmx512m</value>
</property>
<property>
<name>mapred.map.child.java.opts</name>
<value>-Xmx1024m</value>
</property>
<property>
<name>mapred.reduce.child.java.opts</name>
<value>-Xmx1024m</value>
</property>
<name>mapred.max.split.size</name>
<value>2560000</value>
<description>Largest valid size in bytes for a file split.
This should be set to a small multiple of the block size in bytes
</description>
</property>
</configuration>
</hive>

最佳答案

尝试使用

mapred.map.child.java.opts -> mapreduce.map.java.opts
mapred.reduce.child.java.opts -> mapreduce.reduce.java.opts
mapred.max.split.size -> mapreduce.input.fileinputformat.split.maxsize

我认为“oozie.launcher.mapred.child.java.opts”工作正常。

关于java - OOZIE HIVE操作-工作流.xml属性不会传递给子任务,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/51062797/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com