gpt4 book ai didi

apache-spark - 使用 Spark Local 模式时有多少个 JVM 正在运行?

转载 作者:行者123 更新时间:2023-12-04 04:22:01 24 4
gpt4 key购买 nike

这里是新手,但到目前为止真的很喜欢 Spark。

我执行了以下操作(使用笔记本电脑,运行 Windows 7):

  1. 使用命令提示符窗口启动主机:

    spark 类 org.apache.spark.deploy.master.Master

  2. 输入以下内容启动一名 worker :

    spark-class org.apache.spark.deploy.worker.Worker spark://localhost:7077

  3. 重复步骤 2,换句话说,使用与上述相同的命令启动另一个 worker。

现在,我有一个 master,两个 worker,在同一台物理机器上。根据我一直在阅读的内容,这应该被视为“本地模式”......对此不确定,希望有人可以确认?

此外,根据我的阅读,本地模式 应该在一个SINGLE JVM 中有master 和worker。但是通过运行一个小实用程序代码,我可以看到 master 在一个 JVM 中,两个 worker 每个都在一个 JVM 中,所以有三个 JVM,它们是不同的 JVM。

谁能告诉我我哪里做错了,或者我的理解有什么问题?

此外,对于这个本地模型,没有集群管理器,对吗?

非常感谢!

最佳答案

本地模式是单个 JVM。本地模式是指您通过 --master 命令行开关将主节点指定为 local[*]。这可以通过 spark-submit 或 spark-shell 完成。

This解释得很好。

关于apache-spark - 使用 Spark Local 模式时有多少个 JVM 正在运行?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48362557/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com