gpt4 book ai didi

hadoop - 在Hadoop上,运行应用程序(如WordCount或Pi Estimator)时是否可以增加 map (而不是maptask或节点!)

转载 作者:行者123 更新时间:2023-12-02 21:55:10 24 4
gpt4 key购买 nike

我是初学者,还是Hadoop学习者。

我正在测试使用5台PC的hadoop完全分发模式(具有双核cpu和ram 2G)
在开始maptask和hdfs之前,我知道我必须配置文件(Ip上的etc / hosts,主机名和hadoop文件夹/ conf / masters,slaves文件),因此我完成了对该文件的配置。
然后,

我有一个问题

在运行应用程序(如WordCount或Pi Estimator)时,是否可以增加(或添加)map(而不是mapTask或node!)?

例如,我正在使用10个 map ,迭代100,000,000运行Pi Estimator应用程序。

在运行应用程序的过程中,我觉得它太慢了,所以即使hadoop状态正在运行,我也想增加map。可能吗?如果是真的,请告诉我。

或者在运行应用程序之前,我可以配置配置文件(例如hdfs-site.xml或mapred-site.xml)以在运行应用程序时动态增加 map 吗?

hadoop堆栈溢出社区的主要用户,请告诉我有关真相的详细信息。

最佳答案

您可以设置mapred.map.tasks并为作业提供有关您想要多少个映射器的提示,但仅提示和hadoop不一定会服从它。您可以通过设置mapred.tasktracker.reduce.tasks.maximum来设置一次运行的最大并发Map任务数,

Setting the number of map tasks and reduce tasks

How to increase the mappers and reducers in hadoop according to number of instances used to increase the performance?

关于hadoop - 在Hadoop上,运行应用程序(如WordCount或Pi Estimator)时是否可以增加 map (而不是maptask或节点!),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/15353698/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com