gpt4 book ai didi

amazon-web-services - aws 胶水 python shell 作业与 spark 作业的最佳用例是什么?

转载 作者:行者123 更新时间:2023-12-04 13:38:51 28 4
gpt4 key购买 nike

一直在使用awsglue python shell作业构建简单的数据etl作业,对于spark作业,只使用过一两次转换为orc格式或在JDBC数据上执行spark sql。那么想知道每个用例的最佳/典型用例是什么?
一些文件说 python shell 工作适合简单的工作,而 spark 适合更复杂的工作,对吗?你能分享更多这方面的经验吗?

非常感谢

最佳答案

当您不需要太多计算能力来运行轻型 ETL 工作负载时,请使用 AWS Glue Python shell。当您必须水平、垂直或同时进行扩展时,将 AWS Glue 与 Spark 结合使用。
来源:What are the best use cases for aws glue python shell jobs vs. spark jobs?

关于amazon-web-services - aws 胶水 python shell 作业与 spark 作业的最佳用例是什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/60117544/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com