gpt4 book ai didi

scala - S3 存储桶名称被添加到 S3 端点

转载 作者:行者123 更新时间:2023-12-02 17:20:21 25 4
gpt4 key购买 nike

当尝试使用 Scala 从 S3 存储桶访问文件时,存储桶名称被添加到端点的前面,并且端点变得错误且不可访问。

图书馆:

libraryDependencies += "org.apache.spark" % "spark-core_2.11" % "2.0.0"
libraryDependencies += "org.apache.spark" % "spark-sql_2.11" % "2.0.0"
libraryDependencies += "org.apache.hadoop" % "hadoop-aws" % "2.8.0"

代码:

sc.hadoopConfiguration.set("fs.s3a.endpoint", "[endpoint]")
sc.textFile("s3a://[bucket_name]/testa.txt")

最佳答案

启用 path style URLs解决了这个问题,因为在安装 S3 的服务器上没有完成虚拟主机配置。 fs.s3a.path.style.access( docs ) 可以设置为 true 以启用路径样式 URL。

关于scala - S3 存储桶名称被添加到 S3 端点,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/43272381/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com