java - 找不到类的 Hadoop jar 执行失败

Question

我正在运行我的 hadoop 作业，但它因未找到类而失败。总共4个java文件。

logProcessor.java
logMapper.java
logReducer.java
logParser.java

一切都在 unix 上的 com 文件夹中，我有“package com;”在所有类(class)的第一行

这意味着如果你执行下面的命令 头-5 *java你会看见 包com；在所有 4 个文件中。

logProcessor 是 Driver 类。所有文件都在 unix 上的“com”文件夹中。

ls -ltr com/
logProcessor.java
logMapper.java
logReducer.java
logParser.java

I compiled the java program and made a jar out of it.

hadoop jar /var/lib/hadoop-hdfs/xxxx/jarFiles/LogParser.jar com.LogProcessor /user/hdfs/flume/2015-03-30/03 /user/xxxx/output_xxx

它给我以下错误:

Exception in thread "main" java.lang.ClassNotFoundException: com.RFCLogProcessor
    at java.net.URLClassLoader$1.run(URLClassLoader.java:366)
    at java.net.URLClassLoader$1.run(URLClassLoader.java:355)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:354)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:425)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:358)
    at java.lang.Class.forName0(Native Method)
    at java.lang.Class.forName(Class.java:270)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:201)

Answer 1

首先，您需要在类路径中写入您的jar 路径。将 jar 文件的目录路径写入 .bashrc 文件。

然后你可以使用下面的命令:

hadoop jar directorypath/yourjarname.jar packagename.mainclassname outputpath