gpt4 book ai didi

hadoop - 如何将我的数据从本地 HDFS 安全地传输到 Google Cloud Storage?

转载 作者:可可西里 更新时间:2023-11-01 16:28:50 24 4
gpt4 key购买 nike

我在本地 HDFS 安装中有大量数据。我想将其中一些移动到 Google Cloud(云存储),但我有一些顾虑:

  • 我实际上如何移动数据?
  • 我担心在公共(public)互联网上移动它

将数据从我的 HDFS 存储安全地移动到 Cloud Storage 的最佳方法是什么?

最佳答案

要将数据从本地 Hadoop 集群移动到 Google Cloud Storage,您可能应该使用 Google Cloud Storage connector for Hadoop .您可以按照 install directions 在任何集群中安装连接器.请注意,Google Cloud Dataproc集群默认安装连接器。

安装连接器后,您可以使用 DistCp 将数据从 HDFS 移动到 Cloud Storage。这将通过(公共(public))互联网传输数据,除非您与谷歌云有特殊的互连设置。为此,您可以使用 squid proxy并配置云存储连接器 to use it .

关于hadoop - 如何将我的数据从本地 HDFS 安全地传输到 Google Cloud Storage?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46289866/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com