gpt4 book ai didi

azure - hdinsight actionscript 安装 spark 1.2

转载 作者:可可西里 更新时间:2023-11-01 16:57:12 30 4
gpt4 key购买 nike

有谁知道如何为 hdisights 创建 ActionScript ?我现在正在使用 actoinscript 安装 spark 1.0.2,但希望集群上的 spark 1.2.x 获得更多的配置单元支持。我读过 Script Action Development with HDInsight当我尝试通过修改 Microsoft 提供的 actionscript 使用 1.2 创建 spark 集群时。这样做之后我得到一个错误,spark 不理解文件 url 'wasb://' 并且它需要采用 'hdfs://' 格式。在文章中它谈到了 Configure the custom components to use WASB它说:

The custom components that you install on the cluster nodes might have a 
default configuration to use HDFS storage. You should change the
configuration to use Azure Storage Blob (WASB) instead. On a cluster
re-image, the HDFS file system gets formatted and you would lose any data
that is stored there. Using WASB instead ensures that your data will be
retained.

这对我来说似乎是在谈论我遇到的错误。有谁知道如何编译支持(WASB)的spark或如何配置它?

最佳答案

好吧,微软在昨天看起来像是为 Apache Spark 1.2 添加了“支持”。如果你使用新版本的 HDInsight 3.2 并使用这个 new action script它看起来为您安装 1.2。我现在正在测试它!

关于azure - hdinsight actionscript 安装 spark 1.2,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28460605/

30 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com