gpt4 book ai didi

hadoop - 无法获取系统目录 - hadoop

转载 作者:可可西里 更新时间:2023-11-01 14:50:17 24 4
gpt4 key购买 nike

使用 hadoop 多节点设置(1 mater 1 salve)

在 master 上启动 start-mapred.sh 后,我在 TT 日志中发现以下错误(Slave an)

org.apache.hadoop.mapred.TaskTracker: Failed to get system directory

谁能帮我知道怎样做才能避免这个错误

我正在使用Hadoop 1.2.0码头-6.1.26Java 版本“1.6.0_23”

mapred-site.xml 文件

<configuration>
<property>
<name>mapred.job.tracker</name>
<value>master:54311</value>
<description>The host and port that the MapReduce job tracker runs
at. If "local", then jobs are run in-process as a single map
and reduce task.
</description>
</property>
<property>
<name>mapred.map.tasks</name>
<value>1</value>
<description>
define mapred.map tasks to be number of slave hosts
</description>
</property>

<property>
<name>mapred.reduce.tasks</name>
<value>1</value>
<description>
define mapred.reduce tasks to be number of slave hosts
</description>
</property>

</configuration>

核心站点.xml

<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://master:54310</value>
<description>The name of the default file system. A URI whose
scheme and authority determine the FileSystem implementation. The
uri's scheme determines the config property (fs.SCHEME.impl) naming
the FileSystem implementation class. The uri's authority is used to
determine the host, port, etc. for a filesystem.</description>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/hduser/workspace</value>
</property>
</configuration>

最佳答案

您似乎刚刚添加了 hadoop.tmp.dir 并开始了作业。在将任何属性添加到配置文件后,您需要重新启动 Hadoop 守护进程。您在评论中指定您在稍后阶段添加此属性。这意味着所有数据和元数据以及其他临时文件仍在/tmp 目录中。将所有这些内容从那里复制到您的 /home/hduser/workspace 目录中,重新启动 Hadoop 并重新运行作业。

让我知道结果。谢谢。

关于hadoop - 无法获取系统目录 - hadoop,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/17916602/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com