作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我是Spark
和pyspark
的新手。
我使用pyspark,在处理了rdd
之后,尝试使用hdfs
函数将其保存到saveAsTextfile()
中。
但我收到“权限被拒绝”错误消息,因为pyspark尝试编写hdfs
使用我的本地帐户“kjlee”,该帐户在hdfs
系统上不存在。
我可以通过SparkContext().sparkUser()
检查spark用户名,但是找不到如何更改spark用户名。
如何更改Spark用户名?
最佳答案
为此有一个环境变量:HADOOP_USER_NAME
因此只需使用export HADOOP_USER_NAME=anyuser
或在pyspark中就可以使用os.environ["HADOOP_USER_NAME"] = "anyuser"
关于scala - 如何更改SparkContext.sparkUser()设置(在pyspark中)?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/32860831/
我是Spark和pyspark的新手。 我使用pyspark,在处理了rdd之后,尝试使用hdfs函数将其保存到saveAsTextfile()中。 但我收到“权限被拒绝”错误消息,因为pyspark
我是一名优秀的程序员,十分优秀!