amazon-s3 - 亚马逊 EMR Spark 集群 : output/result not visible

Question

我在 Amazon EMR 上运行一个 Spark 集群。我正在集群上运行 PageRank 示例程序。

在我的本地机器上运行程序时，我能够正确地看到输出。但同样不适用于 EMR。 S3 文件夹只显示空文件。

我正在使用的命令:启动集群:

aws emr create-cluster --name SparkCluster --ami-version 3.2 --instance-type m3.xlarge --instance-count 2 \
  --ec2-attributes KeyName=sparkproj --applications Name=Hive \
  --bootstrap-actions Path=s3://support.elasticmapreduce/spark/install-spark  \
  --log-uri s3://sampleapp-amahajan/output/ \
  --steps Name=SparkHistoryServer,Jar=s3://elasticmapreduce/libs/script-runner/script-runner.jar,Args=s3://support.elasticmapreduce/spark/start-history-server 

添加作业:

aws emr add-steps --cluster-id j-9AWEFYP835GI --steps \
Name=PageRank,Jar=s3://elasticmapreduce/libs/script-runner/script-runner.jar,Args=[/home/hadoop/spark/bin/spark-submit,--deploy-mode,cluster,--master,yarn-cluster,--class,SparkPageRank,s3://sampleapp-amahajan/pagerank_2.10-1.0.jar,s3://sampleapp-amahajan/web-Google.txt,2],ActionOnFailure=CONTINUE

在几次不成功的尝试之后...我为作业的输出创建了一个文本文件，并在我的本地机器上成功创建了它。但是当我通过 SSH 进入集群时，我无法查看相同的内容。我尝试使用 FoxyProxy 查看实例的日志，但那里没有显示任何内容。

你能告诉我哪里错了吗？

谢谢!

Answer 1

您如何在本地编写文本文件？通常，EMR 作业会将其输出保存到 S3，因此您可以使用类似 outputRDD.saveToTextFile("s3n://<MY_BUCKET>") 的内容.您还可以将输出保存到 HDFS，但将结果存储到 S3 对于“临时”集群很有用——您可以在其中配置 EMR 集群、提交作业并在完成后终止。