gpt4 book ai didi

encryption - AWS EMR - 使用正确的加密 key 写入 S3

转载 作者:行者123 更新时间:2023-12-03 09:00:33 24 4
gpt4 key购买 nike

我有一个 EMR 集群 (v5.12.1) 和我的 S3 存储桶设置,并使用相同的 AWS SSE-KMS key 进行静态加密。

从 S3 读取数据工作正常,但当我使用 Pyspark 脚本写入 S3 存储桶时 - parquet 文件使用默认的“aws/s3” key 进行加密。

如何让 Spark 使用正确的 KMS key ?

集群有Hadoop 2.8.3和Spark 2.2.1

最佳答案

解决方案是不要对输出文件使用 s3a://或 s3n://路径。

如果您仅使用 s3://前缀,文件将写入 S3 并使用正确的 SSE-KMS key 进行加密。

关于encryption - AWS EMR - 使用正确的加密 key 写入 S3,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/50856304/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com