gpt4 book ai didi

scala - Spark : what options can be passed with DataFrame. saveAsTable 或 DataFrameWriter.options?

转载 作者:可可西里 更新时间:2023-11-01 14:08:42 30 4
gpt4 key购买 nike

开发人员和 API 文档均未包含有关可以在 DataFrame.saveAsTableDataFrameWriter.options 中传递哪些选项的任何引用,它们会影响 Hive 的保存 table 。

我希望在这个问题的答案中,我们可以汇总有助于 Spark 开发人员的信息,他们希望更好地控制 Spark 保存表的方式,并可能为改进 Spark 的文档提供基础。

最佳答案

您在任何地方都看不到 options 文档的原因是它们是特定于格式的,开发人员可以使用一组新的 options 继续创建自定义写入格式。

但是,对于少数支持的格式,我列出了 spark 代码本身提到的选项:

关于scala - Spark : what options can be passed with DataFrame. saveAsTable 或 DataFrameWriter.options?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/31487254/

30 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com