gpt4 book ai didi

python - 使用 s3fs 下载文件

转载 作者:行者123 更新时间:2023-12-04 02:33:11 30 4
gpt4 key购买 nike

我正在尝试使用 s3fs 库从 s3 存储桶下载 csv 文件。我注意到使用 Pandas 编写新的 csv 以某种方式改变了数据。所以我想直接以原始状态下载文件。
documentation有一个下载功能,但我不明白如何使用它:download(self, rpath, lpath[, recursive]) :Alias of FilesystemSpec.get.这是我尝试过的:

import pandas as pd
import datetime
import os
import s3fs
import numpy as np

#Creds for s3
fs = s3fs.S3FileSystem(key=mykey, secret=mysecretkey)
bucket = "s3://mys3bucket/mys3bucket"
files = fs.ls(bucket)[-3:]


#download files:
for file in files:
with fs.open(file) as f:
fs.download(f,"test.csv")

AttributeError: 'S3File' object has no attribute 'rstrip'

最佳答案

for file in files:
fs.download(file,'test.csv')
修改为下载目录下的所有文件:
import pandas as pd
import datetime
import os
import s3fs
import numpy as np

#Creds for s3
fs = s3fs.S3FileSystem(key=mykey, secret=mysecretkey)
bucket = "s3://mys3bucket/mys3bucket"

#files references the entire bucket.
files = fs.ls(bucket)

for file in files:
fs.download(file,'test.csv')

关于python - 使用 s3fs 下载文件,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/63017653/

30 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com