apache-spark - 群集中HADOOP_CONF_DIR的值

Question

我使用3个VM作为主机，使用Ambari设置了一个群集(YARN)。

在哪里可以找到HADOOP_CONF_DIR的值？

# Run on a YARN cluster
export HADOOP_CONF_DIR=XXX
./bin/spark-submit \
  --class org.apache.spark.examples.SparkPi \
  --master yarn-cluster \  # can also be `yarn-client` for client mode
  --executor-memory 20G \
  --num-executors 50 \
  /path/to/examples.jar \
  1000

Answer 1

还要安装Hadoop。就我而言，我已将其安装在/usr/local/hadoop中

设置Hadoop环境变量

export HADOOP_INSTALL=/usr/local/hadoop

然后设置conf目录

export HADOOP_CONF_DIR=$HADOOP_INSTALL/etc/hadoop