gpt4 book ai didi

hadoop - 访问远程集群中的HDFS

转载 作者:行者123 更新时间:2023-12-02 20:31:31 26 4
gpt4 key购买 nike

目前,我有一个远程Hadoop集群。当我尝试通过namenode访问datanode中的数据时,namenode会将我重定向到datanode。
但是,返回的datanode域名只能在该群集内部识别。此外,我无法在客户端修改/etc/hosts

我可以配置namenode以使用任何IP或域重定向我吗?
名称节点用于记录要返回的域在哪里?

最佳答案

我相信您需要的是Gateway服务器(也称为EdgeNode)。有几个教程在那里。

在您的特定情况下,拥有namenode的服务器也将拥有EdgeNode。

有两个特定的项目可以实现此目的:

  • 使用SOCKS代理。 Using Hadoop through a SOCKS proxy?
  • 使用HTTPFS:https://hadoop.apache.org/docs/r2.4.1/hadoop-hdfs-httpfs/index.html
  • 关于hadoop - 访问远程集群中的HDFS,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53152145/

    26 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com