gpt4 book ai didi

java - 如何通过扩展FileInputFormat的新API获得拆分的主机详细信息?

转载 作者:行者123 更新时间:2023-12-02 21:42:25 25 4
gpt4 key购买 nike

嗨,我正在尝试通过扩展org.apache.pig.LoadFunc为Pig创建自定义加载程序,它需要实现

public abstract org.apache.hadoop.mapreduce.InputFormat getInputFormat() throws java.io.IOException;

现在,上面的 org.apache.hadoop.mapreduce.InputFormat格式是新的API,因此我必须通过扩展 org.apache.hadoop.mapreduce.InputFormat来创建自定义文件格式,我已经使用新的API创建了自定义文件格式,但是我需要使用以下代码找出主机拆分的详细信息
String[] splitHosts = getSplitHosts(blkLocations, 0, length, clusterMap);

getSplitHosts()在较旧的API org.apache.hadoop.mapred.FileInputFormat中可用,但在 org.apache.hadoop.mapreduce.lib.input.FileInputFormat中不可用

我的问题是如何使用 org.apache.hadoop.mapreduce.lib.input.FileInputFormat的新API找出getSplitHosts()

请预先指导我是Hadoop的新手。

最佳答案

Hadoop 2具有向后兼容性,并且仍然可以使用旧的api,并且它也有新版本可用。不会有问题。
因此,您可以使用Hadoop 2.6版本api here中给定的类

希望能帮助到你!

关于java - 如何通过扩展FileInputFormat的新API获得拆分的主机详细信息?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27778736/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com