gpt4 book ai didi

azure - AzCopy 是否可以直接从 HDFS 而不是从本地存储将文件传输到 Azure?

转载 作者:行者123 更新时间:2023-12-02 20:25:53 27 4
gpt4 key购买 nike

我想我有一个相当简单的问题。我正在使用托管在 Unix 计算机上的 Hadoop 集群。我需要将 ORC 文件从该 Hadoop 集群传输到 Azure BLOB 存储。

如果我在托管 Hadoop 集群的 Unix 计算机上安装 AzCopy,我是否能够在 HDFS 和 Azure 之间来回传输文件?

我在互联网上看到的所有信息都只讨论本地存储到 Azure 之间的传输。因此,我仍然对从 HDFS 到 Azure 的传输感到困惑。

有人可以帮我解决有关 AzCopy 的困惑吗?将是一个很大的帮助。提前致谢。

最佳答案

您可以使用 distcp 来实现此目的。从这里查看解决方案(我只是颠倒了参数的顺序)https://stackoverflow.com/a/54514602/1537195

hadoop  distcp -D fs.azure.account.key.<account name>.blob.core.windows.net=<Key> hdfs://<hdfs path> wasb://<container>@<account>.blob.core.windows.net<path to wasb file>

关于azure - AzCopy 是否可以直接从 HDFS 而不是从本地存储将文件传输到 Azure?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56790251/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com