gpt4 book ai didi

java - 是否在任何地方记录了 Apache Hadoop 的构建工件?

转载 作者:可可西里 更新时间:2023-11-01 16:35:41 27 4
gpt4 key购买 nike

我刚刚开始使用 Apache Hadoop,因此,我的第一个目标基本上是运行“hello world”应用程序。首要任务始终是设置开发环境并能够编译代码。更具体地说,我正在尝试编译找到的类 here .这些文件代表一个简单的 MapReduce 作业,作为 Hadoop 书籍的一部分。

本书作者使用 hadoop-client 作为依赖项(source),但由于有太多工件 - 我将返回 - 我想知道我是否可以使用另一个依赖项。我总是试图“导入”或仅依赖于最少的一组工件和类型。

本书作者(还)没有谈到 Hadoop 分发了哪些工件,以及我为什么要使用其中一个的话题。 Hadoop 的网站和 Internet 的其余部分似乎也不会在意这个小“细节”。一些 SO 线程之前已经触及了这一点(参见 thisthat),对此有关于“应该”将什么工件作为依赖项来编译相关特定代码的意见的答案。

这不是我的问题。编译我的代码相当“容易”并且已经完成。我试图弄清楚存在哪些工件,我应该在什么时候使用哪些工件。我怎么知道从 Java 类型 A 到二进制工件依赖项 B?最重要的是,所有这些都记录在哪里?

对于初学者来说,存在哪些构建工件?

嗯,根据this page ,有这些:

hadoop-client
hadoop-client-api
hadoop-client-minicluster
hadoop-client-runtime
hadoop-hdfs-client
hadoop-hdfs-native-client
hadoop-mapreduce-client-app
hadoop-mapreduce-client-common
hadoop-mapreduce-client-core
hadoop-mapreduce-client-jobclient
hadoop-mapreduce-client-nativetask
hadoop-yarn-client

但根据JCenter ,还有大约五百万件东西。特别是,其中约有四百九十九万九千九百九十九个带有“客户”一词。非常困惑!

在 Hadoop 的列表之外,我可以简单地测试哪些有效,哪些无效。要获取我的书中提供的类中使用的所有导入,以下所有方法都有效:

hadoop-client
hadoop-client-api
hadoop-client-minicluster
hadoop-client-runtime
hadoop-mapreduce-client-app
hadoop-mapreduce-client-nativetask

我遗漏的那些在不同程度上不起作用。有些无法解析所有导入,有些只能解析其中的一部分。

我个人的赌注 - 如果我想尽可能少地依赖废话,那就是使用 hadoop-mapreduce-client-app。但是让我不得不求助于这场 gorilla war 只是为了让最平凡的“hello world”应用程序工作,这让我很恼火。我不想知道将来当我真正沉迷于 Hadoop 时,我会流下多少眼泪。

一定是我遗漏了什么!

最佳答案

我建议您只使用 Maven/Gradle 来传递所需的一切。

如果您想要的只是 MapReduce 依赖项,这已经奏效了 fine for me在 Gradle 中

implementation group: 'org.apache.hadoop', name: 'hadoop-client', version: "2.8.5"

这是一个 aggregator POM ,它在其他几个库上具有编译依赖项(向下滚动)。

关于java - 是否在任何地方记录了 Apache Hadoop 的构建工件?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53449822/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com