gpt4 book ai didi

apache-spark - Spark 2.1 - 实例化 HiveSessionState 时出错

转载 作者:行者123 更新时间:2023-12-03 07:19:09 25 4
gpt4 key购买 nike

全新安装 Spark 2.1 后,我在执行 pyspark 命令时遇到错误。

Traceback (most recent call last):
File "/usr/local/spark/python/pyspark/shell.py", line 43, in <module>
spark = SparkSession.builder\
File "/usr/local/spark/python/pyspark/sql/session.py", line 179, in getOrCreate
session._jsparkSession.sessionState().conf().setConfString(key, value)
File "/usr/local/spark/python/lib/py4j-0.10.4-src.zip/py4j/java_gateway.py", line 1133, in __call__
File "/usr/local/spark/python/pyspark/sql/utils.py", line 79, in deco
raise IllegalArgumentException(s.split(': ', 1)[1], stackTrace)
pyspark.sql.utils.IllegalArgumentException: u"Error while instantiating 'org.apache.spark.sql.hive.HiveSessionState':"

我在同一台机器上有 Hadoop 和 Hive。 Hive 配置为使用 MySQL 作为元存储。我在 Spark 2.0.2 中没有遇到此错误。

有人可以给我指出正确的方向吗?

最佳答案

我在 Windows 环境中遇到了同样的错误,下面的技巧对我有用。

shell.py 中,spark session 是使用 .enableHiveSupport() 定义的

 spark = SparkSession.builder\
.enableHiveSupport()\
.getOrCreate()

删除 Hive 支持并重新定义 Spark session ,如下所示:

spark = SparkSession.builder\
.getOrCreate()

您可以在 Spark 安装文件夹中找到 shell.py。对我来说它位于 "C:\spark-2.1.1-bin-hadoop2.7\python\pyspark"

希望这有帮助

关于apache-spark - Spark 2.1 - 实例化 HiveSessionState 时出错,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42942620/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com