hadoop - 如何在cloudera集群中设置PIG_HEAPSIZE？

Question

我有一个 pig 脚本，每次从 Oozie 运行时它都会内存不足。

错误:

Pig 日志文件转储:

Pig 堆栈跟踪

错误 2998:未处理的内部错误。 Java堆空间

java.lang.OutOfMemoryError: Java heap space
        at java.lang.StringCoding$StringEncoder.encode(StringCoding.java:300)
        at java.lang.StringCoding.encode(StringCoding.java:344)
        at java.lang.StringCoding.encode(StringCoding.java:387)
        at java.lang.String.getBytes(String.java:956)

我尝试设置了很多参数，但都没有成功。

如果我导出 PIG_HEAPSIZE = 4000，则从命令行运行相同的 pig 脚本。

感谢您的帮助!

Answer 1

可以通过在 Oozie(Workflow.xml) 脚本中添加这两行来轻松完成:

<property>
     <name>oozie.launcher.mapred.child.java.opts</name>
     <value>-server -Xmx4G -Djava.net.preferIPv4Stack=true</value>
</property>

:)