gpt4 book ai didi

python - 为什么 spark 在我的 PC 上总是使用单核?

转载 作者:塔克拉玛干 更新时间:2023-11-03 00:18:19 24 4
gpt4 key购买 nike

即使我给 groupByKey 函数一个参数,例如 groupByKey(4),当我用 top 命令检查时,spark 仍然使用一个核心。我这样运行我的脚本。

spark-submit --master local[4] program.py

那么,当我告诉它使用 4 个内核时,为什么 spark 只使用一个内核?

最佳答案

如果您的问题的标签是可信的,那么您正在 Linux 上运行它。在 linux 下,默认情况下,top 不会显示每个线程(它会显示每个进程)。 local[4] 告诉 spark 在 4 个线程(不是进程)上本地工作。

运行 top -H 来获取线程。

关于python - 为什么 spark 在我的 PC 上总是使用单核?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26795792/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com