scala - 将 Scala 代码提交到集群

Question

是否可以使用多个节点在 oracle Grid Engine 上运行一些 akka 代码？

所以如果我使用actor-model，它是一个“消息传递模型”，是否可以使用Scala和akka框架在分布式内存系统(如集群或网格)上运行我的代码？

如果是这样，是否有类似 mpirun 之类的东西？在 mpi -c , 在不同的节点上运行我的程序？你能举一个使用oracle Grid Engine的提交例子吗？

我如何知道我在哪个节点上的 Scala 内部以及作业已提交到多少个节点？

是否可以通过actor-model 与其他节点通信？

Answer 1

mpirun或(在某些系统上为 mpiexec)可以运行任何类型的可执行文件(即使它们不使用 MPI)。我目前使用它在集群上启动 java 和 Scala 代码。在调用 mpirun 时将参数传递给可执行文件可能很棘手。所以你可以使用中间脚本。

我们使用与 GridEngine 不兼容的 Torque/Maui 脚本，但这是我的同事目前正在使用的脚本:

#!/bin/bash
#PBS -l walltime=24:00:00
#PBS -l nodes=10:ppn=1
#PBS -l pmem=45gb
#PBS -q spc
# Find the list of nodes in the cluster
id=$PBS_JOBID
nodes_fn="${id}.nodes"
# Config file
config_fn="human_stability_article.conf"
# Java command to call
java_cmd="java -Xmx10g -cp akka/:EvoProteo-assembly-0.0.2.jar ch.unige.distrib.BuildTree ${nodes_fn} ${config_fn} ${id}"
# Create a small script to pass properly the parameters
aktor_fn="./${id}_aktor.sh"
echo -e "${java_cmd}" >> $aktor_fn
# Copy the machine file to the proper location
rm -f $nodes_fn
cp $PBS_NODEFILE $nodes_fn
# Launch the script on 10 notes
mpirun -np 10 sh $aktor_fn > "${id}_human_stability_out.txt"