gpt4 book ai didi

java - Spark2 Java 数据集 Sql

转载 作者:太空宇宙 更新时间:2023-11-04 11:59:48 26 4
gpt4 key购买 nike

尝试在 Spark2 中运行 JavaSparkSQLExample。使用spark-core_2.11-2.0.2和spark-sql_2.11-2.0.2。有错误:The method createGlobalTempView(String) is undefined for the type Dataset<Row>.

实际上是latest API docs没有定义这个方法。 Also the programming Guide有这个。任何人都知道这一点。

我们如何构建 session - 因为你不能运行: .config("spark.some.config.option", "some-value")

SparkContext: Error initializing SparkContext.
org.apache.spark.SparkException: A master URL must be set in your configuration

最佳答案

  • 根据您的评论,您正在查看 Spark nightly build 的编程指南。它基于 master 分支,包含尚未发布的代码。最有可能的是,它会登陆 Spark 2.2.0。另一方面,您的工件和 API 文档适用于最新的官方可用 Spark 版本 - 2.0.2。 createGlobalTempView() 仅出现在 2.1 中(即将推出,但也不可用)。因此,您不能将 createGlobalTempView() 与 Spark 2.0.2(您的工件版本)一起使用。要了解 Spark 2.0.2 中的可用功能,请参阅此 guide

  • 每个 Spark 应用程序都需要 Master URL 。您可以将其作为参数传递给 spark-submit 或直接在代码中设置:

    val Spark = SparkSession.builder()
    .appName("应用程序名称")
    .master("本地[4]")
    .getOrCreate()

关于java - Spark2 Java 数据集 Sql,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/41026682/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com