hadoop - Apache Hadoop 中的 job.submit 和 job.waitForComplete 有什么区别？

Question

我已经阅读了文档，所以我知道其中的区别。

但我的问题是，如果我想在集群上并行运行多个 Hadoop 作业，使用 .submit 而不是 .waitForComplete 是否有任何风险？

我主要使用 Elastic Map Reduce。

当我尝试这样做时，我注意到只有第一个作业被执行。

Answer 1

如果您的目标是并行运行作业，那么使用 job.submit() 肯定没有风险。 job.waitForCompletion 存在的主要原因是它的方法调用仅在作业完成时返回，并且返回成功或失败状态，可用于确定要运行的进一步步骤或不是。

现在，回过头来看，您只看到第一个作业正在执行，这是因为默认情况下，Hadoop 按 FIFO 顺序安排作业。你当然可以改变这种行为。阅读更多 here .