gpt4 book ai didi

hadoop - 如何在不将整个文件下载到本地磁盘的情况下下载 tar.gz 并将其打包到 hdfs?

转载 作者:可可西里 更新时间:2023-11-01 15:09:33 27 4
gpt4 key购买 nike

我想从网上直接提取 tar.gz 文件到 hdfs 中。跳过下载到本地磁盘阶段,因为文件可能非常大。

这一切都来自简单的 cmd 行脚本(bash、wget 等)

最佳答案

好的,看起来这个衬垫有效:

wget -O - http://...tar.gz | tar xfz - --to-stodout | hadoop dfs -put - /somepath

关于hadoop - 如何在不将整个文件下载到本地磁盘的情况下下载 tar.gz 并将其打包到 hdfs?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49630824/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com