gpt4 book ai didi

hadoop - Hadoop无法执行基本示例

转载 作者:行者123 更新时间:2023-12-02 20:27:44 24 4
gpt4 key购买 nike

我正在使用的软件:

  • 系统:macOS Mojave 10.14.2
  • Hadoop:3.1.1
  • JDK:10.0.2

  • 我执行以下命令: hadoop jar /usr/local/Cellar/hadoop/3.1.1/libexec/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.1.jar pi 2 5,它失败了:

    我需要帮助,谢谢!!!

    在hadoop-env.sh中,我仅添加以下语句:
    export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk-10.0.2.jdk/Contents/Home

    core-site.xml:
    <configuration>
    <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
    </property>

    hdfs-site.xml:
    <configuration>
    <property>
    <name>dfs.replication</name>
    <value>1</value>
    </property>

    mapred-site.xml:
    <configuration>
    <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
    </property>
    <property>
    <name>mapreduce.application.classpath</name>
    <value>$HADOOP_MAPRED_HOME/share/hadoop/mapreduce/*:$HADOOP_MAPRED_HOME/share/hadoop/mapreduce/lib/*</value>
    </property>

    yarn-site.xml:
    <configuration>
    <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
    </property>
    <property>
    <name>yarn.nodemanager.env-whitelist</name>
    <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
    </property>

    最佳答案

    我解决了
    这是Java版本的原因。
    当我将两行代码添加到yarn-env.sh时,它对我不起作用。

    export YARN_RESOURCEMANAGER_OPTS="--add-modules=ALL-SYSTEM"
    export YARN_NODEMANAGER_OPTS="--add-modules=ALL-SYSTEM"

    最后,我更改了Java版本,将其设置为java8并删除了上面两行代码,它对我有用。
    您可以在hadoop-env.sh中进行设置。
    谢谢

    关于hadoop - Hadoop无法执行基本示例,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/54926254/

    24 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com