gpt4 book ai didi

python - 具有 security.UserGroupInformation : PriviledgedActionException (no such file or directory) 的 map-reduce 作业的 Hadoop 错误

转载 作者:行者123 更新时间:2023-11-28 19:22:42 28 4
gpt4 key购买 nike

我正在运行一个简单的流式 map-reduce 作业,但似乎无法解决此错误。

hadoop jar $HADOOP_HOME/contrib/streaming/hadoop-streaming-1.2.1.jar -input textDataFiles/* -output counts -file /home/hduser/first/mapper.py -mapper mapper.py -file /home/hduser/first/reducer.py -reducer reducer.py

结果是:

Warning: $HADOOP_HOME is deprecated.

packageJobJar: [/home/hduser/first/mapper.py, /home/hduser/first/reducer.py] [] /tmp/streamjob1639740860313757975.jar tmpDir=null
14/01/19 00:04:57 INFO util.NativeCodeLoader: Loaded the native-hadoop library
14/01/19 00:04:57 ERROR security.UserGroupInformation: PriviledgedActionException as:hduser cause:ENOENT: No such file or directory
14/01/19 00:04:57 ERROR streaming.StreamJob: Error Launching job : No such file or directory
Streaming Command Failed!

我的映射器和缩减器没有什么特别之处——它是一个简单的字数统计脚本。有什么建议吗?

最佳答案

我最近在学校的 hadoop 集群上遇到了这个问题。
问题出在安装在常规文件系统上的 /tmp/hadoop-USERNAME 目录的权限中。 USERNAME 代表我在我连接的 linux 机器上的用户名。
删除该目录解决了问题。

关于python - 具有 security.UserGroupInformation : PriviledgedActionException (no such file or directory) 的 map-reduce 作业的 Hadoop 错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/21213481/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com