java - 使用Bash ssh在多台远程机器上运行Java程序

Question

我需要在许多远程计算机上运行 Java 程序。我在循环中使用 ssh 并调用运行 Java 程序的远程脚本。

正如您可以想象的，这用于测试集群上的分布式系统。

问题是，在我输入第一个 ssh session 的密码后，脚本立即挂起。这可能是一个 bash 错误，因为 Java 程序在本地运行良好。

确切的结构是这样的，一个运行许多远程bash脚本的本地bash脚本。每个远程脚本都会编译并运行一个Java 程序。这个Java程序启动一个单独的线程来完成一些工作。当收到 SIGINT 信号时，Java 线程会收到通知，以便它可以干净地退出。

我做了一个简化的工作示例。

编辑:下面的代码现在可以工作(为后代修复)

如果您想回答，请不要对代码结构进行太多更改，否则它不会像原来的那样，我将无法理解出了什么问题。

手动运行的 Bash 脚本

#!/bin/bash

function startBatch()
{
    #the problem was using -n
    ssh -f "$1" "cd $projectDir;./startBatch.sh $2"
}

function stopBatch()
{
    #the problem was using -n
    ssh -f "$1" "pkill -f jnode_.*"
}

projectDir=NetBeansProjects/Runner

#start nodes
nodeNumber=0
while read node; do
    startBatch "$node" "$nodeNumber"
    nodeNumber=$(($nodeNumber + 1))
done < ./nodes.txt

sleep 3

#stop nodes
while read node; do
    stopBatch "$node"
done < ./nodes.txt

由其他脚本运行的 Bash 脚本

#!/bin/bash

#this is a simplified working example
myNumber=$1
$(exec -a jnode_"$myNumber" java -cp build/classes runner.Runner "$myNumber.txt")

这是上述脚本的简化版本。如果您想要正确的日志记录，请检查已接受答案的第二部分。

#!/bin/bash

batchNumber=$1
procNumber=0
batchSize=3
while [ "$procNumber" -lt "$batchSize" ]; do
    procName="$batchNumber"_"$procNumber"
    #this line was no good
    #$(exec -a jnode_"$procName" java -cp build/classes runner.Runner "$procName.txt" &)
    #this line works fine
    exec -a jnode_"$procName" java -cp build/classes runner.Runner "$procName.txt" 1>/dev/null 2>/dev/null &
    procNumber=$(($procNumber + 1))
done

<小时/>

Java Runner(启动线程的东西)

import java.io.File;
import java.io.FileNotFoundException;
import java.io.PrintStream;

public class Runner {

    public static void main(String[] args) throws FileNotFoundException, InterruptedException {
        //redirect all outputs to a given file
        PrintStream output = new PrintStream(new File(args[0]));
        System.setOut(output);
        System.setErr(output);

        //controlled object
        final MyRunnable myRunnable = new MyRunnable();

        //shutdown the controlled process on command
        Runtime.getRuntime().addShutdownHook(new Thread() {
            @Override
            public void run() {
                myRunnable.stop = true;
            }
        });

        //run the process
        new Thread(myRunnable).start();
    }
}

Java MyRunnable(正在运行的线程)

public class MyRunnable implements Runnable {

    public boolean stop = false;

    @Override
    public void run() {
        while (!stop) {
            try {
                System.out.println("running");
                Thread.sleep(1000);
            } catch (InterruptedException ex) {
                System.out.println("interrupted");
            }
        }
        System.out.println("stopping");
    }
}

<小时/>

不要在 Java 程序中使用 System.exit()，否则关闭 Hook 将无法正确调用(或完全执行)。从外部发送 SIGINT 消息。

<小时/>

正如评论中提到的，输入密码可能很无聊。无密码 RSA key 是一种选择，但我们可以做得更好。让我们添加一些安全功能。

创建公钥/私钥对

ssh-keygen -t rsa
Enter file in which to save the key (home/your_user/.ssh/id_rsa): [input ~/.ssh/nameOfKey]
Enter passphrase (empty for no passphrase): [input a passphrase not weaker than your ssh password]

将公钥添加到远程主机的authorized_keys文件中，以便进行身份验证。

#first option (use proper command)
ssh-copy-id user@123.45.67.89

#second option (append the key at the end of the file)
cat ~/.ssh/nameOfKey.pub | ssh user@123.45.67.89 "cat >> ~/.ssh/authorized_keys"

现在，如果我们使用 ssh-agent，我们可以使密码短语仅被询问一次(在执行第一个命令时)。请注意，它会要求输入密码(创建 key 时输入的密码)，而不是实际的 ssh 密码。

#activate the agent
eval `ssh-agent`

#add the key, its passphrase will be asked
ssh-add ~/.ssh/keyName1

#add more keys, if needed
ssh-add ~/.ssh/keyName2

现在，您的分布式系统有了一个非常简单但功能齐全的测试框架。玩得开心。

Answer 1

执行远程命令时，SSH 在远程命令完成之前不会退出。在 Java 程序完成之前，您的远程脚本不会退出，并且在 Java 程序的所有非守护线程退出之前，Java 程序不会退出，并且您的 Java 程序将永远运行。因此，您的服务器端 SSH 调用将永远运行(好吧，直到您通过其他方式终止它)并且您的脚本会挂起。

您需要决定一种使 SSH 远程命令立即返回的方法。你有选择。最简单的可能只是用 & 调用它在服务器脚本上，如:

ssh -n "$1" "cd $projectDir;./startBatch.sh $2 &"

更强大的选项是调用 java与 &在远程脚本中，让服务器端像现在一样运行(没有 & )，这样你就有机会完全阅读例如远程脚本生成的错误消息。

旁注:至于密码本身(一旦你克服了当前的障碍，你最终将不得不处理它)，正如我对这个问题的评论中提到的:一种可能性是创建一个无密码 key (ssh-keygen -t rsa) )然后将公钥粘贴在 authorized_keys2 中在每台远程计算机上，那么从您的计算机连接时就不必处理密码。 SSH 密码提示有时会对脚本交互性造成严重破坏。存在相关的安全陷阱，但它们可能对您的情况并不重要。

<小时/>

回复下面的评论。你有几个选择。如果您想使用附加功能将所有内容捕获到同一个日志文件中，请不要重定向程序输出，而只需将 while 循环所做的所有内容重定向到日志，例如:

while [ "$procNumber" -lt "$batchSize" ]; do
    procName="$batchNumber"_"$procNumber"
    exec -a jnode_"$procName" java -cp build/classes runner.Runner "$procName.txt" &
    procNumber=$(($procNumber + 1))
done >> "$myLog" 2>&1

如果您希望每个进程一个日志，并附加:

while [ "$procNumber" -lt "$batchSize" ]; do
    procName="$batchNumber"_"$procNumber"
    exec -a jnode_"$procName" java -cp build/classes runner.Runner "$procName.txt" >> "$myLog.$procNumber" 2>&1 &
    procNumber=$(($procNumber + 1))
done

如果您想将应用程序输出与循环中其他命令的输出分开，您也可以将上述两者结合起来。