gpt4 book ai didi

hadoop - 如何为 Hadoop 的 Map-reduce 作业设置配置?

转载 作者:可可西里 更新时间:2023-11-01 16:23:47 26 4
gpt4 key购买 nike

假设我想为 MR 作业设置这些配置:

mapred.map.tasks
mapred.reduce.tasks
mapred.tasktracker.map.tasks.maximum
mapred.tasktracker.reduce.tasks.maximum
mapred.reduce.slowstart.completed.maps

我可以通过哪些方式进行设置?

我可以在 mapred-site.xml 中设置。但这适用于我运行的所有作业。

如果我想专门为个别工作设置这些,这是否有效:

conf.set("mapred.tasktracker.map.tasks.maximum", 10)

(我没在任何地方看到过这种)

或仅通过命令行参数

例如-D mapred.tasktracker.map.tasks.maximum=10

(这似乎是更常见的用法)

最佳答案

这两种方式都有效,您可以在开始作业之前以任何方式编辑配置。

关于hadoop - 如何为 Hadoop 的 Map-reduce 作业设置配置?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/24881606/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com