- android - RelativeLayout 背景可绘制重叠内容
- android - 如何链接 cpufeatures lib 以获取 native android 库?
- java - OnItemClickListener 不起作用,但 OnLongItemClickListener 在自定义 ListView 中起作用
- java - Android 文件转字符串
我刚刚开始使用 Apache Hadoop,因此,我的第一个目标基本上是运行“hello world”应用程序。首要任务始终是设置开发环境并能够编译代码。更具体地说,我正在尝试编译找到的类 here .这些文件代表一个简单的 MapReduce 作业,作为 Hadoop 书籍的一部分。
本书作者使用 hadoop-client
作为依赖项(source),但由于有太多工件 - 我将返回 - 我想知道我是否可以使用另一个依赖项。我总是试图“导入”或仅依赖于最少的一组工件和类型。
本书作者(还)没有谈到 Hadoop 分发了哪些工件,以及我为什么要使用其中一个的话题。 Hadoop 的网站和 Internet 的其余部分似乎也不会在意这个小“细节”。一些 SO 线程之前已经触及了这一点(参见 this 和 that),对此有关于“应该”将什么工件作为依赖项来编译相关特定代码的意见的答案。
这不是我的问题。编译我的代码相当“容易”并且已经完成。我试图弄清楚存在哪些工件,我应该在什么时候使用哪些工件。我怎么知道从 Java 类型 A 到二进制工件依赖项 B?最重要的是,所有这些都记录在哪里?
对于初学者来说,存在哪些构建工件?
嗯,根据this page ,有这些:
hadoop-client
hadoop-client-api
hadoop-client-minicluster
hadoop-client-runtime
hadoop-hdfs-client
hadoop-hdfs-native-client
hadoop-mapreduce-client-app
hadoop-mapreduce-client-common
hadoop-mapreduce-client-core
hadoop-mapreduce-client-jobclient
hadoop-mapreduce-client-nativetask
hadoop-yarn-client
但根据JCenter ,还有大约五百万件东西。特别是,其中约有四百九十九万九千九百九十九个带有“客户”一词。非常困惑!
在 Hadoop 的列表之外,我可以简单地测试哪些有效,哪些无效。要获取我的书中提供的类中使用的所有导入,以下所有方法都有效:
hadoop-client
hadoop-client-api
hadoop-client-minicluster
hadoop-client-runtime
hadoop-mapreduce-client-app
hadoop-mapreduce-client-nativetask
我遗漏的那些在不同程度上不起作用。有些无法解析所有导入,有些只能解析其中的一部分。
我个人的赌注 - 如果我想尽可能少地依赖废话,那就是使用 hadoop-mapreduce-client-app
。但是让我不得不求助于这场 gorilla war 只是为了让最平凡的“hello world”应用程序工作,这让我很恼火。我不想知道将来当我真正沉迷于 Hadoop 时,我会流下多少眼泪。
一定是我遗漏了什么!
最佳答案
我建议您只使用 Maven/Gradle 来传递所需的一切。
如果您想要的只是 MapReduce 依赖项,这已经奏效了 fine for me在 Gradle 中
implementation group: 'org.apache.hadoop', name: 'hadoop-client', version: "2.8.5"
这是一个 aggregator POM ,它在其他几个库上具有编译依赖项(向下滚动)。
关于java - 是否在任何地方记录了 Apache Hadoop 的构建工件?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53449822/
我有一个 if 语句,如下所示 if (not(fullpath.lower().endswith(".pdf")) or not (fullpath.lower().endswith(tup
然而,在 PHP 中,可以: only appears if $foo is true. only appears if $foo is false. 在 Javascript 中,能否在一个脚
XML有很多好处。它既是机器可读的,也是人类可读的,它具有标准化的格式,并且用途广泛。 它也有一些缺点。它是冗长的,不是传输大量数据的非常有效的方法。 XML最有用的方面之一是模式语言。使用模式,您可
由于长期使用 SQL2000,我并没有真正深入了解公用表表达式。 我给出的答案here (#4025380)和 here (#4018793)违背了潮流,因为他们没有使用 CTE。 我很欣赏它们对于递
我有一个应用程序: void deleteObj(id){ MyObj obj = getObjById(id); if (obj == null) { throw n
我的代码如下。可能我以类似的方式多次使用它,即简单地说,我正在以这种方式管理 session 和事务: List users= null; try{ sess
在开发J2EE Web应用程序时,我通常会按以下方式组织我的包结构 com.jameselsey.. 控制器-控制器/操作转到此处 服务-事务服务类,由控制器调用 域-应用程序使用的我的域类/对象 D
这更多是出于好奇而不是任何重要问题,但我只是想知道 memmove 中的以下片段文档: Copying takes place as if an intermediate buffer were us
路径压缩涉及将根指定为路径上每个节点的新父节点——这可能会降低根的等级,并可能降低路径上所有节点的等级。有办法解决这个问题吗?有必要处理这个吗?或者,也许可以将等级视为树高的上限而不是确切的高度? 谢
我有两个类,A 和 B。A 是 B 的父类,我有一个函数接收指向 A 类型类的指针,检查它是否也是 B 类型,如果是将调用另一个函数,该函数接受一个指向类型 B 的类的指针。当函数调用另一个函数时,我
有没有办法让 valgrind 使用多个处理器? 我正在使用 valgrind 的 callgrind 进行一些瓶颈分析,并注意到我的应用程序中的资源使用行为与在 valgrind/callgrind
假设我们要使用 ReaderT [(a,b)]超过 Maybe monad,然后我们想在列表中进行查找。 现在,一个简单且不常见的方法是: 第一种可能性 find a = ReaderT (looku
我的代码似乎有问题。我需要说的是: if ( $('html').attr('lang').val() == 'fr-FR' ) { // do this } else { // do
根据this文章(2018 年 4 月)AKS 在可用性集中运行时能够跨故障域智能放置 Pod,但尚不考虑更新域。很快就会使用更新域将 Pod 放入 AKS 中吗? 最佳答案 当您设置集群时,它已经自
course | section | type comart2 : bsit201 : lec comart2 :
我正在开发自己的 SDK,而这又依赖于某些第 3 方 SDK。例如 - OkHttp。 我应该将 OkHttp 添加到我的 build.gradle 中,还是让我的 SDK 用户包含它?在这种情况下,
随着 Rust 越来越充实,我对它的兴趣开始激起。我喜欢它支持代数数据类型,尤其是那些匹配的事实,但是对其他功能习语有什么想法吗? 例如标准库中是否有标准过滤器/映射/归约函数的集合,更重要的是,您能
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 这个问题似乎与 help center 中定义的范围内的编程无关。 . 关闭 9 年前。 Improve
我一直在研究 PHP 中的对象。我见过的所有示例甚至在它们自己的对象上都使用了对象构造函数。 PHP 会强制您这样做吗?如果是,为什么? 例如: firstname = $firstname;
...比关联数组? 关联数组会占用更多内存吗? $arr = array(1, 1, 1); $arr[10] = 1; $arr[] = 1; // <- index is 11; does the
我是一名优秀的程序员,十分优秀!